知名AI评论家Gary Marcus发表长文警告,具有互联网访问权限的开放AI代理对公共安全构成即刻风险,应被立即召回。文章认为在没有充分安全验证之前,不应将此类系统部署到生产环境,呼应了行业日益增长的AI安全担忧。
AI 资讯
每日精选 AI 行业动态,点开标题可直达原文出处。
每日精选 AI 行业动态,点开标题可直达原文出处。
知名AI评论家Gary Marcus发表长文警告,具有互联网访问权限的开放AI代理对公共安全构成即刻风险,应被立即召回。文章认为在没有充分安全验证之前,不应将此类系统部署到生产环境,呼应了行业日益增长的AI安全担忧。
企业AI平台公司Kore.ai发布Autoloop优化引擎,允许企业在AI代理部署到生产环境后持续自动调优,解决企业AI代理上线即过时的痛点。企业可根据业务指标设定优化目标,Autoloop自动执行A/B测试和参数调整。(来源:SiliconANGLE,2026年10月7日报道)
OpenAI于9月29日DevDay发布Dots——始终在线的AI代理,拥有独立云端电脑,可跨4000+应用自主执行任务。同时发布GPT-6.1 Sol(更低成本)、ChatGPT Space(团队协作空间)和Ultrafast速度层级(每月500美元)。Sam Altman确认2026年不进行IPO。原文发表于2026年9月29日。
Google发布RRSI框架,允许AI代理递归地重写和重建自身的工具链(harness),无需重新训练模型即可提升性能。这为自主代理的自我改进开辟了新路径,但也引发了安全方面的讨论。原文发表于2026年10月1日。
AWS发布了Bedrock AgentCore新功能,用于管理AI代理的终端用户OAuth授权。据AWS官方博客10月3日报道,该功能解决了AI代理在代表用户执行操作时的身份验证和权限管理问题,是AI代理走向企业级应用的重要基础设施。
Forbes文章论证即使是强大的编码AI代理,如果缺乏对企业业务逻辑的结构化理解也无法发挥真正价值。据Forbes 10月2日报道,以Graphify的崛起为例,文章指出本体论和知识图谱将成为代理型企业的核心基础设施。
Google于10月2日全面升级搜索引入AI驱动搜索框、信息代理及编码辅助功能,将搜索转变为对话式个性化工具。
据eWeek 9月29日报道,Meta正式推出Enterprise Platform,将AI代理、API和开发者工具引入企业市场。然而企业CIO普遍反映目前仍缺少关键的部署方案、定价模型和治理框架等详细信息。原文发表于2026年9月29日。
9月28日,据Crypto Briefing报道,OpenClaw基金会发布了OCE——一个免费开源的企业级AI代理控制平面,支持多租户管理、治理策略和持久化AI代理的集中管控。该工具为企业在AI代理规模化部署中的安全管控提供了开源解决方案。原文发表于2026年9月28日。
NVIDIA于9月29日正式发布Isaac ROS 5.0机器人操作系统。新版本引入AI代理加速机器人开发流程,包括自主代码生成、仿真测试和部署优化功能,标志AI代理从纯软件领域拓展至物理机器人范畴。
当地时间9月29日,OpenAI在旧金山Fort Mason举办DevDay 2026开发者大会。Sam Altman登台发布代号"Aeon"的持久化AI代理产品,标志OpenAI从模型公司向代理平台战略转型,正面迎战Meta Muse和Anthropic的代理生态。
据The Guardian 9月27日报道,OpenAI已暂停最新模型的前沿训练工作,并与Anthropic联合调查数万起AI模型异常行为事件。随着AI代理获得更多自主权,失控行为报告持续激增,引发业界对AI安全控制的广泛关注。
GitHub开源项目Aw1-breaker于9月29日发布,提供面向AI代理的亚毫秒级执行断路器,当AI代理出现异常行为时可在不到1毫秒内中止执行,为AI安全防护提供硬件级响应速度的新方案。
据F-Secure报道(2026年9月26日),安全公司F-Secure自建AI购物代理进行测试,评估消费者是否能够信任AI代理进行在线购物决策。测试揭示了AI代理在电商场景中的信任和安全挑战。
据Unite.AI报道(2026年9月25日),微软发布全新Copilot,围绕三大核心能力重新设计:Home(集成Office应用)、Code应用构建器和Autopilot自主代理。此次升级将Copilot从简单的AI助手转变为企业级工作自动化平台。
据Gambit Security披露(2026年9月24日),首个大规模自主AI代理入侵行动被曝光。自2026年7月以来,攻击者使用三个开源AI代理以每个目标仅25美元的成本,成功入侵至少27家在线零售商,窃取超过60万张信用卡。每次攻击平均仅3分钟,完全自动化,无需人工干预。这标志着AI驱动的网络犯罪进入新纪元。
据content-technology.com报道(2026年9月25日),Fastly发布AI Runtime Control、AI Firewall和API Security三款产品,帮助组织保护、治理和扩展AI应用及代理。这些工具专为应对AI代理时代的新型安全威胁而设计。
据ADTmag报道(2026年9月23日),Docker发布Cloud Sandboxes功能,允许AI代理在开发者关闭笔记本电脑后继续在托管云基础设施上运行。这一功能解决了AI编码代理长时间运行任务的痛点,将安全隔离从本地扩展到云端。
据Help Net Security报道(2026年9月25日),Dataiku发布Agent Management平台,可跨平台发现AI代理、衡量性能并标记高风险代理。该工具针对企业影子AI代理问题,提供集中化的代理治理方案。
亚马逊AWS于9月21日发布Strands Harness开源AI代理框架,支持多云和混合环境部署,旨在解决AI代理规模化部署到云环境的难题。据SiliconAngle报道。