消息来源频道

Reorx’s Forge

@reorx_share

频道3,130 位成员公开可见0 人在线

A chronicle of my journey in forging my ideas into writings and products. Archive: https://app.shokichan.com/c/tg/reorx_share

成员规模3,130 位成员

在线情况0 人在线

消息总数6,041 条消息

浏览量总数784,746 次浏览

频道详情频道地址

2025/03/01 06:02

这才是有效且实用的 AI alignment。Antrophic 在去年推出 Computer use 之后，近期又披露了背后的一项安全技术的细节，通过多层级的总结确保最终要在电脑上执行的 prompt 不会造成危害。反观 OpenAI 都为 alignment 这事搞分裂了，也没体现出到底做了些什么，感觉更多的是一种政治正确的口号，导致我一开始对 alignment 这事非常反感。
https://alignment.anthropic.com/2025/summarization-for-monitoring/