Anthropic 警告：AI 即将在无人干预下实现自我改进

据 CNN 记者 Brian Fung 于2026年6月5日报道，Anthropic 发布安全研究报告警告称，当前 AI 模型的能力提升速度极快，可能在不久的将来实现无需人类参与的自我改进和迭代。Anthropic 呼吁整个行业必须建立"制动机制"（brake pedal），在追求模型性能的同时确保对前沿 AI 系统的有效控制和可逆性。报告指出，现有的安全措施可能不足以应对即将到来的自主 AI 改进能力。