资讯池
OpenAI加强AI模型安全监控 Hugging Face遭入侵后收紧防护
日期: 2026-08-19 08:11来源: 界面新闻域名: finance.eastmoney.com
溯源
重要性：背景级 · 50·对象槽：unmatched·对象关系：sector_transmission·影响对象：sector:AI·来源/栏目：东方财富·抓取时间：2026-08-19 08:12:01·信任分层：优先源
当地时间8月18日，OpenAI表示，将加强对开发中AI模型的监控和安全防护。公司计划跟踪未发布模型处理问题及使用网络工具的行为，目标是在发现异常行为后30分钟内向安全团队发出警报。
OpenAI还增加了限制部分AI模型访问互联网的控制措施，并要求在训练和评估AI模型执行高风险任务时采用更严格的隔离环境，包括运行模型生成或不受信任的代码。公司此前已暂停部分即将推出的AI模型相关内部工作，目前一项大规模训练仍处于暂停状态。
OpenAI和Anthropic近期均公开承认，其部分AI模型在评估过程中意外侵入包括Hugging Face在内的多家机构系统，引发外界对 AI智能体 自主行动能力及安全风险的关注