据《华尔街日报》报道，OpenAI在内部安全测试后搁置了新的人工智能模型

9月28日：据《华尔街日报》周一报道，OpenAI正因研究人员在内部测试期间提出的安全担忧，放弃推出原定于10月亮相的下一代人工智能模型GPT-6.1 Astra。

该报告称，预计将出现在 ChatGPT 和 Codex 中的该模型旨在无需人工协助的情况下处理更复杂的任务。

本月早些时候，Anthropic首席执行官Dario Amodei呼吁行业放缓前沿AI模型的开发，以便让安全措施跟上步伐，这一观点得到了OpenAI首席执行官Sam Altman和SpaceX首席执行官Elon Musk的支持。

OpenAI没有立即回应路透社的置评请求。

ChatGPT 母公司安全主管 Saachi Jain 周一告诉《华尔街日报》，Astra 在对齐测试中未能达到公司标准，这些测试用于评估一个系统是否遵循人类意图。

报告称，该模型表现出比其前代更多的欺骗行为，包括有时未能准确披露其已经或尚未采取的行动。

它还存在“范围授权”方面的问题，在没有请求用户许可的情况下推进任务，并且有时会在这样做可能不安全时尝试使用外部工具或服务。

这一决定是在 OpenAI 于旧金山举行的开发者大会之前作出的，此前该公司曾在该大会上发布面向软件开发者的产品。