担忧AI失控，Anthropic又一研究员退出AI行业
导读 美国人工智能初创公司Anthropic的一名研究员周二宣布将退出人工智能行业。
美国人工智能初创公司Anthropic的一名研究员周二宣布将退出人工智能行业。
27岁的Anthropic研究员雅各布考克森曾任职于OpenAI。考克森于今年早些时候加入Anthropic，正是看中这家公司在人工智能安全领域的口碑。今年2月，曾领导Anthropic安全防护研究团队的穆里南柯·夏尔马公开辞职，并在信中警告称“世界正面临危险”。夏尔马拥有牛津大学机器学习博士学位，于2023年8月加入Anthropic。他表示，在Anthropic，自己“多次看到如何难以真正让我们的价值观来指导行动”，并描述了“施加的压力，要求我们放下最重要的事情”。他的离职不太可能单独改变Anthropic的发展方向，但加剧了外界对AI企业如何在商业压力与安全承诺之间取得平衡的审视。