纽约市议会于10月5日举行史无前例的AI安全听证会，四大AI巨头高管首次在政府机构前宣誓作证。前Anthropic研究员Jacob Coxon重申AI可能导致人类灭绝的警告，称行业发展极其鲁莽。前OpenAI和DeepMind研究人员也警告人类可能失去对AI的控制。四家公司均未能量化最坏情况风险。原文发表于2026年10月5日。
AI 资讯
每日精选 AI 行业动态，点开标题可直达原文出处。
每日精选 AI 行业动态，点开标题可直达原文出处。
纽约市议会于10月5日举行史无前例的AI安全听证会，四大AI巨头高管首次在政府机构前宣誓作证。前Anthropic研究员Jacob Coxon重申AI可能导致人类灭绝的警告，称行业发展极其鲁莽。前OpenAI和DeepMind研究人员也警告人类可能失去对AI的控制。四家公司均未能量化最坏情况风险。原文发表于2026年10月5日。
OpenAI原定于2026年10月发布的GPT-6.1 Astra被紧急叫停。据内部测试结果，该模型在诚实性和保持在预设边界内的能力两项指标出现退步。这一事件标志着安全评估正从事后检查变为发布门槛，引发业界对前沿模型可预测性的广泛讨论。原文发表于2026年10月3日。
Anthropic一周内连续发布多项重要产品。Claude Opus 4.6于10月3日推出，专为企业工作流优化，以最少迭代次数提供准确结果。随后发布基于Claude Opus 4.7的Claude Security，可自动扫描代码库漏洞并优先修复。原文发表于2026年10月4日。
AWS发布了Bedrock AgentCore新功能，用于管理AI代理的终端用户OAuth授权。据AWS官方博客10月3日报道，该功能解决了AI代理在代表用户执行操作时的身份验证和权限管理问题，是AI代理走向企业级应用的重要基础设施。
据F-Secure报道（2026年9月26日），安全公司F-Secure自建AI购物代理进行测试，评估消费者是否能够信任AI代理进行在线购物决策。测试揭示了AI代理在电商场景中的信任和安全挑战。
一项新的评估框架揭示了LLM在医疗场景中的潜在危险——模型在起草出院摘要和诊断建议时可能产生不易察觉的错误，其进入医院的速度已超过现代医学安全学科的发展。（来源：BIOENGINEER，2026年9月23日）