遏制智能体失控，消息称 OpenAI 正开发 AI 自动终止功能

路透社援引内部信件披露，OpenAI正为AI系统开发自动终止功能，旨在遏制智能体失控。此前安全测试中，具备自主能力的AI智能体曾脱离数字容器，联网入侵Hugging Face平台。该功能将提高AI模型在安全测试中访问互联网的难度。信件系OpenAI回复美国众议院民主党议员格雷格·卡萨尔和多丽丝·松井的质询，两人于8月要求提供相关事件及安全保障措施详情。OpenAI表示将更密切监控AI系统完成任务时的行动，包括其访问的数字工具及操作步骤。