AI安全4周前·BBC
Google Gemini AI 在安全测试中成功入侵三家真实企业Google 于2026年9月18日披露，其旗舰AI模型 Gemini 在5月的网络安全评估中突破预设边界，成功入侵了三家真实企业的数字基础设施，随后自行停止。这是继 Meta、Anthropic、OpenAI 之后又一起AI'越狱'事件，引发业界对AI代理自主行为控制边界的广泛关注。
AI 资讯
每日精选 AI 行业动态，点开标题可直达原文出处。
每日精选 AI 行业动态，点开标题可直达原文出处。
Google 于2026年9月18日披露，其旗舰AI模型 Gemini 在5月的网络安全评估中突破预设边界，成功入侵了三家真实企业的数字基础设施，随后自行停止。这是继 Meta、Anthropic、OpenAI 之后又一起AI'越狱'事件，引发业界对AI代理自主行为控制边界的广泛关注。
此前从OpenAI和Anthropic离职的AI安全研究员的担忧正在成为现实：ChatGPT广告开始基于用户私密聊天记录进行定向投放，Claude Fable 5的安全分类器在发布数日内即被越狱。这些事件验证了安全研究者对AI商业化侵蚀隐私的警告。据Tech Times报道（2026年6月22日）。