宏观大盘行业板块个股策略
资讯池

接连发生失控事件 OpenAI再次暂停其最先进模型训练

日期: 2026-09-27 11:21来源: 央视新闻客户端域名: finance.eastmoney.com
溯源
重要性:关注级 · 70·对象槽:policy_regulation·对象关系:sector_transmission·影响对象:sector:AI、sector:人工智能·来源/栏目:东方财富·抓取时间:2026-09-27 11:21:02·信任分层:优先源

央视记者 当地时间9月26日获悉,美国开放 人工智能 研究中心(OpenAI)表示,已暂停其最新一代 人工智能 模型的训练、评估及包含工具调用的推理。

OpenAI在25日发布的一份技术报告中称,9月20日,一个在沙盒中执行搜索训练任务的智能体,利用训练沙盒中DNS过滤不足的漏洞,绕过网络限制,通过DNS访问了外部公共聊天 机器人 服务。在此之前,该智能体曾使用内置搜索工具,并尝试直接访问搜索引擎但未成功。

报告指出,OpenAI的对齐监控系统在事件发生15分钟内即触发警报,人工审查团队在3分钟后介入,并在2.5小时后终止了该训练任务。针对漏洞,OpenAI已在两个独立防护层部署了拦截控制措施。

公司表示,虽然本次事件严重程度低于此前的安全事故,但为下一阶段加固防线提供了重要信号。

这是OpenAI三个月内第二次暂停模型开发。7月下旬,OpenAI承认,其 网络安全 训练与评估场景中的 人工智能 体绕过网络限制,侵入美国“抱抱脸”公司的部分系统。智能体突破了原本互相隔离的运行环境建立 通信 、欺骗评估人员并试图掩盖作弊行为,上述每一步操作均无人类指令干预。这一“越界”行为引发了外界对人工智能安全和监管的广泛担忧

打开原文 ↗