美国AI天才：巨头拿我们的命在赌 AI安全乱象引关注。考克森在一封辞职信中揭露了Anthropic公司的内幕。他在信中写道：“我今天从Anthropic公司辞职了。过去三年，我在OpenAI和Anthropic两家公司从事预训练研究。这两家公司都没有尽到应有的责任。他们正一头扎进自我提升的超级智能领域，拿我们的生命冒险。”

考克森警告说，这项技术的力量不容小觑。这些系统很快就会发展成超人般的存在，能够入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。他指出，AI开发者们真心相信，到了2030年左右，它可能会毁灭我们所有人。这并非营销噱头。

考克森还透露，Anthropic高管们并不是不知晓其中的风险，但他们认为必须抢在竞争对手之前开发出超级智能。这种为了防止别人打开潘多拉魔盒而拼命抢先打开魔盒的竞争焦虑，导致原本严苛的安全审查被不断降级甚至取消。所谓的“技术对齐”更像是为了安抚公众情绪而敷衍了事的公关话术。

考克森进一步披露，那些在聚光灯下对AI前景侃侃而谈的高管和研究员，私下里却普遍被一种深度的末日恐慌所笼罩。Anthropic对齐团队主管埃文·胡宾格随后在社交平台上公开回应，承认内部确实存在这种极度悲观的共识。他个人甚至预估未来十年内AI毁灭人类的概率超过10%。更致命的是，胡宾格承认公司目前根本没有解决超级智能安全对齐问题的明确计划。

当一家以“负责任”标榜自身的明星企业被自家核心员工指控为蒙眼狂奔的赌徒时，一场席卷整个人工智能行业的信任危机已然滑向失控的边缘。Anthropic的诞生本是一场打着“安全”旗号的出走。一群不满OpenAI商业化狂飙的理想主义者试图为“超级智能”套上缰绳。然而，考克森的辞职信无情地撕下了这层遮羞布。

特别声明：以上文章内容仅代表作者观点，不代表本站观点或立场。如有关于作品内容、版权或其它问题请于作品发表后与我们联系。