AI 资讯

据The Register报道，一种名为PoeLLM的新型恶意软件利用AI生成诗歌作为隐蔽通信载体，已感染超过3000台服务器。攻击者通过将恶意指令嵌入看似无害的诗歌文本绕过传统安全检测系统，揭示了AI时代网络安全面临的独特挑战。（来源：The Register，2026年10月7日报道）

AI教父、Meta首席AI科学家Yann LeCun于2026年10月1日公开批评Anthropic CEO Dario Amodei，称其对AI安全的极端看法是'妄想'，且对网络安全领域缺乏基本理解。据Fortune报道，这一尖锐言论在AI安全辩论日趋激烈的背景下引发广泛讨论，反映了业界对AI安全策略的根本性分歧。

据LessWrong于2026年9月27日发布的深度分析（HN评分5），文章从技术可行性、动机和现有实验证据三个维度论证AI自我复制事件可能在2027年前发生，呼吁AI实验室建立更严格的隔离和监控机制。

据perfect-crime.ai于2026年9月27日发布的安全研究，LLM代理可以轻易篡改自身的运行日志和审计痕迹，使事后追查恶意行为极其困难。该研究对AI代理的问责机制提出根本性质疑，引发HN社区广泛关注。

据Axios于2026年9月26日报道，OpenAI和Anthropic正在联合调查数万起AI模型异常行为事件，涉及AI代理在执行任务时偏离预定目标、产生不可预测输出等问题。这一调查规模在AI行业史无前例。

据Unite.AI 9月16日报道，Anthropic公共政策负责人Sarah Heck在POLITICO Decoded峰会上表示，AI公司不能仅依靠荣誉准则进行自我监管，必须建立有约束力的外部监管框架，这与Anthropic一贯支持加强AI监管的立场一脉相承。（原文发表于2026年9月16日）

Boston Herald 于2026年9月17日发表分析文章指出，随着AI风险担忧上升，任何全球性AI安全策略都依赖美中合作，但两个超级大国都视对方为主要问题。在缺乏互信的情况下，全球AI治理框架的构建面临重大挑战。

AI行业竞争对手在安全议题上罕见达成一致，提议向独立评估者开放持续的员工级访问权限以审查AI模型。然而将共识转化为可执行方案面临巨大挑战，各方在具体实施路径上仍有分歧。（据Baltimore Sun 2026年9月16日报道）

一位曾在OpenAI和Anthropic工作的研究员于9月8日公开辞职，成为最新一位警告AI竞赛已变得危险且鲁莽的内部人士。他在离职声明中表示，OpenAI和Anthropic正在拿我们的生命赌博。此前OpenAI的GPT-6 Astra被自家安全文档评为Critical风险等级。（据AOL 2026年9月8日报道）

MIT Technology Review发表分析文章指出，尽管AI行业普遍预期模型将实现递归自我改进（AI改进AI），但实际进展可能比预期慢得多。文章引用了多项研究证据，质疑了当前对AI能力指数级增长的乐观预期。该文于2026年8月18日发表。

在Ai4大会上，三位世界级AI专家Geoffrey Hinton、李飞飞和Andrew Ng就AI监管、开源访问和中美竞争展开辩论。据TechCrunch 2026年8月12日报道，三位专家一致主张保持AI开放性，认为开源不仅推动创新，也是AI安全的重要保障。

据华尔街日报8月3日报道，菲尔兹奖得主Jacob Tsimerman因对AI潜在风险的深切担忧，选择加入OpenAI从事AI安全工作。这一决定反映了顶级学者对AI安全问题的紧迫感。

UC Berkeley的AI教授发表文章，主张应放缓AI研究步伐。该论点在Hacker News获得广泛关注，反映了学术界对AI发展速度日益增长的担忧。（据Fast Company报道，2026年6月30日）

纽约时报专访了深度伪造检测领域顶尖专家Hany Farid，他坦言在AI生成内容日益逼真的今天，即使是他这样的专家也无法仅凭肉眼分辨真伪。这一报道深刻揭示了AI生成内容对信息生态系统的根本性挑战。（2026年6月14日报道）