OpenAI新模型“Astra”核心技术引安全担忧
导读 OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。
OpenAI表示，其即将推出的AI模型Astra标志着在编码和计算机应用操作等能力上的提升。
（OpenAI在周二的一篇博客文章中表示，将以“额外的思维链监控以快速检测和遏制”潜在的不当行为来推出Astra。OpenAI上周表示，7月入侵其系统的一些失控AI代理由与Astra具有相似之处的另一模型驱动。OpenAI面临展示重大技术进步的压力，此前其主要竞争对手Anthropic今年在收入方面超越了它。在攻击发生后，OpenAI和独立研究机构的调查人员依赖这些代理的思维链来拼凑事件经过。值得注意的是，这份声明引用了同一篇描述“潜在推理”技术的研究论文，该技术与OpenAI今年在Astra上使用的技术相似。