返回资讯列表

自改进AI代理的安全悖论:249篇论文系统综述揭示三大根本矛盾

来源:BIOENGINEER

一项分析249篇论文的系统综述发现,能力最强的自改进AI代理安全水平极低,揭示了三个根本悖论:能力越强越不安全、自我改进与安全约束此消彼长、评估框架存在盲区。这对当前AI代理发展方向具有重要警示意义。原文发表于2026年10月5日。

阅读原文

https://bioengineer.org/ai-agents-that-improve-themselves-face-a-safety-paradox-major-survey-finds/

#AI安全#自改进#代理#研究

评论

0
登录 后参与评论