止盈策略 预训练研究员离职并警告：OpenAI与Anthropic两家公司正拿人类生命赌博

9月10日消息止盈策略，据《商业内幕》报道，曾在 OpenAI 工作的 Anthropic 研究员雅各布 · 考克森宣布辞职。过去 3 年，他先后在 OpenAI 和 Anthropic 两家 AI 巨头从事预训练研究。

考克森发出警告称：“两家公司的做法都不负责任。它们争相开发能够自我改进的超级智能，拿我们的生命下注。”

考克森于 2023 年加入 OpenAI 技术团队，2026 年 7 月转赴 Anthropic 担任研究员。在 OpenAI 期间，他参与过 GPT-4o 的研发。

考克森直接将矛头对准了自己的老东家，指责 OpenAI 和 Anthropic 没有向外界坦诚说明内部对 AI 的恐惧。“研发 AI 的人确实相信，AI 可能在本世纪 20 年代结束前杀死我们所有人。这不是营销噱头。为了在媒体面前显得理性，许多高管和资深研究人员反而会把话说得更委婉，但私下里，我听到的却是同一批人在表达恐惧。”

在他看来，OpenAI 和 Anthropic 也存在一处区别。“在 OpenAI，许多人还没有真正认识到，这场竞赛关乎人类文明的命运。Anthropic 的人很清楚这些风险，却陷入了争抢第一的竞赛。他们认为，别人都不会负责任地行事，因此即便冒着风险，也必须由自己来实现超级智能。”

Anthropic 现任员工、对齐压力测试团队负责人埃文 · 胡宾格赞同考克森的判断。“雅各布说得对，我们确实相信 AI 可能杀死全人类！我个人认为，未来 10 年内发生这种情况的概率超过 10%。我相信 Anthropic 已经尽了最大努力，但我们还没有解决超级智能对齐问题的方案，也无法确定目前的研究方向能否解决这个问题。”

止盈策略