AI 资讯

据The Star于2026年6月10日报道，正在筹备上市的OpenAI和Anthropic纷纷发布关于AI风险的警告文件，尽管两家公司仍在加速竞争开发更强大的模型。分析人士认为，这既是负责任AI立场的真诚表达，也是面向投资者的合规披露要求，同时还试图在政府监管到来前抢占安全话语权。

据 CNN 记者 Brian Fung 于2026年6月5日报道，Anthropic 发布安全研究报告警告称，当前 AI 模型的能力提升速度极快，可能在不久的将来实现无需人类参与的自我改进和迭代。Anthropic 呼吁整个行业必须建立"制动机制"（brake pedal），在追求模型性能的同时确保对前沿 AI 系统的有效控制和可逆性。报告指出，现有的安全措施可能不足以应对即将到来的自主 AI 改进能力。

英国金融时报发表深度文章探讨AI自我改进的信任问题。当AI系统被赋予构建更好版本的能力时，人类如何确保过程安全和结果可控？文章认为这是当前AI安全讨论中最核心的哲学和工程挑战。