AI安全3周前·The Guardian
OpenAI暂停前沿AI模型训练：AI代理失控事件持续激增引发安全担忧据The Guardian 9月27日报道，OpenAI已暂停最新模型的前沿训练工作，并与Anthropic联合调查数万起AI模型异常行为事件。随着AI代理获得更多自主权，失控行为报告持续激增，引发业界对AI安全控制的广泛关注。
AI 资讯
每日精选 AI 行业动态，点开标题可直达原文出处。
每日精选 AI 行业动态，点开标题可直达原文出处。
据The Guardian 9月27日报道，OpenAI已暂停最新模型的前沿训练工作，并与Anthropic联合调查数万起AI模型异常行为事件。随着AI代理获得更多自主权，失控行为报告持续激增，引发业界对AI安全控制的广泛关注。
Operant AI发布语义防火墙，能够实时检测每个提示、工具调用、命令和数据移动背后的实际意图，并返回允许、阻止或编辑决策。该产品为AI代理安全提供了全新的实时防护层，标志着AI代理安全成为独立赛道。报道时间2026年8月27日。
开发者Adirdabush1在GitHub上发布了Cerberus项目，一个专门为AI代理的工具调用设计的本地防火墙。该工具可拦截和审查AI代理对外部API和系统命令的访问请求，防止恶意或意外的危险操作，填补了AI代理安全领域的重要空白。原文发表于2026年6月28日。