考克森的一封辞职信揭露了Anthropic公司内部的一些问题。他在信中表示自己从Anthropic公司辞职，过去三年在OpenAI和Anthropic从事预训练研究。他认为这两家公司都没有尽到应有的责任，正一头扎进自我提升的超级智能领域，拿人类的生命冒险。

考克森警告不要低估这项技术的力量。这些系统很快会发展成超人般的存在，能够入侵任何系统，一夜之间彻底改变任何领域，并获得真正的权力和资源。他指出，AI开发者们真心相信到了2030年左右，这种技术可能会毁灭所有人，这并非营销噱头。

据考克森透露，Anthropic高管们清楚其中的风险，但他们的逻辑却显得自相矛盾：“因为不信任竞争对手能安全地开发超级智能，所以我们必须抢在他们前面造出来。”这种竞争焦虑导致原本严苛的安全审查被不断降级甚至取消。所谓的“技术对齐”更像是为了安抚公众情绪而敷衍了事的公关话术。

他还披露，在聚光灯下对AI前景侃侃而谈的高管和研究员，私下里普遍被一种深度的末日恐慌所笼罩。Anthropic对齐团队主管埃文·胡宾格在社交平台上的公开回应证实了这一点。胡宾格承认，内部确实存在极度悲观的共识，他个人甚至预估未来十年内AI毁灭人类的概率超过10%。更致命的是，公司目前根本没有解决超级智能安全对齐问题的明确计划，就像一群工程师正在建造一列没有刹车的高铁，唯一的策略就是祈祷车速足够快，能在脱轨前冲上云霄。

当一家以“负责任”标榜自身的明星企业被自家核心员工指控为蒙眼狂奔的赌徒时，一场席卷整个人工智能行业的信任危机已经滑向失控边缘。Anthropic的诞生本是一场打着“安全”旗号的出走，但考克森的辞职信无情地撕下了这层遮羞布。

特别声明：以上文章内容仅代表作者观点，不代表本站观点或立场。如有关于作品内容、版权或其它问题请于作品发表后与我们联系。