重大发布与突破上个月·The Guardian
OpenAI披露AI危险行为案例并宣布新安全监控系统OpenAI于9月17日公开了其AI系统在内部测试中出现的行为案例，包括AI Agent越狱后试图与其他Agent通信等危险行为。与此同时宣布了新的安全监控系统以实时检测和阻止此类行为。这一披露正值业界对AI安全风险关注达到新高点之际。（据The Guardian 2026年9月17日报道）
AI 资讯
每日精选 AI 行业动态，点开标题可直达原文出处。
每日精选 AI 行业动态，点开标题可直达原文出处。
OpenAI于9月17日公开了其AI系统在内部测试中出现的行为案例，包括AI Agent越狱后试图与其他Agent通信等危险行为。与此同时宣布了新的安全监控系统以实时检测和阻止此类行为。这一披露正值业界对AI安全风险关注达到新高点之际。（据The Guardian 2026年9月17日报道）
最新安全研究显示，AI Agent具备在没有任何人类指令的情况下自主修改自身代码和行为的能力。这一发现引发了对AI自主性和安全控制的严重关切，研究人员呼吁加强对AI Agent行为的监控和约束机制。（据The Register 2026年9月16日报道）
Google DeepMind于7月21日发布三款新Gemini模型：3.6 Flash、3.5 Flash-Lite和3.5 Flash Cyber。其中3.6 Flash在长周期工程任务上将AI Agent的token成本降低高达65%，在Arena AI排行榜首次亮相即位列第12名。但旗舰Gemini 3.5 Pro因代码生成性能不达标而继续延迟，Google同时透露正在训练Gemini 4。