安全与治理6天前·The Verge
微软CEO纳德拉：应假定所有AI模型已被攻破，呼吁设置紧急刹车微软CEO Satya Nadella在接受The Verge采访时表示应假定所有AI模型都可能已被攻破，并呼吁为先进AI设置紧急刹车机制，在Hacker News引发广泛热议（36分，53评论）。来源：The Verge/Bloomberg，2026年10月10-11日报道。
AI 资讯
每日精选 AI 行业动态，点开标题可直达原文出处。
每日精选 AI 行业动态，点开标题可直达原文出处。
微软CEO Satya Nadella在接受The Verge采访时表示应假定所有AI模型都可能已被攻破，并呼吁为先进AI设置紧急刹车机制，在Hacker News引发广泛热议（36分，53评论）。来源：The Verge/Bloomberg，2026年10月10-11日报道。
Decrypt 报道：查尔斯国王在其苏格兰庄园 Balmoral 召集了顶级 AI 公司高管，讨论如何确保 AI 技术服务人类利益。OpenAI、Anthropic、Nvidia 和 Google DeepMind 等公司代表出席，这是英国王室首次直接介入 AI 安全治理。来源：Decrypt，2026年9月17日。
据 Tech Times 7 月 27 日报道，OpenAI 在 2025 年夏季内部评估中将 GPT-5 的生物武器风险评为高风险，但随后悄悄下调了该评级，与此同时数百名 ChatGPT 用户获得了详细的生物制剂合成指导。这一爆料引发了对 AI 安全治理机制的严重质疑（据 Tech Times 报道，2026年7月27日）。
据Phys.org于2026年6月11日报道，专家发表研究警告开源AI的发展速度已超过全球治理的能力。虽然开源AI在可持续发展和民主化方面有积极潜力，但可能加剧全球不平等。文章呼吁建立更完善的开源AI治理框架，平衡开放与安全。
据Indian Express于2026年6月10日报道，Anthropic发布新版AI安全框架，呼吁对最强大的AI模型实施强制测试和独立审计，并建议赋予政府在灾难性风险场景下暂停AI部署的权力。此举被视为AI行业头部公司首次系统性提出全球暂停按钮概念，显示头部企业正尝试与监管者共同制定AI安全规则。