3周前·Raspberry Pi Blog
Needle:14MB函数调用LLM,可在树莓派上运行Raspberry Pi官方博客介绍了Needle——一个仅14MB大小的LLM,专门用于函数调用,可将文本指令转换为具体操作。这标志着小型AI模型在边缘设备上的实用化取得新进展。(来源:Raspberry Pi Blog,2026年9月24日)
每日精选 AI 行业动态,点开标题可直达原文出处。
Raspberry Pi官方博客介绍了Needle——一个仅14MB大小的LLM,专门用于函数调用,可将文本指令转换为具体操作。这标志着小型AI模型在边缘设备上的实用化取得新进展。(来源:Raspberry Pi Blog,2026年9月24日)
据 CNBC 报道(2026年8月26日),一位投资策略师指出,本地化 AI 模型的崛起可能颠覆当前大规模数据中心建设的热潮。如果小型高效模型能在边缘设备上运行,当前对超大规模数据中心的巨额投资可能面临风险。
Hacker News热门开源项目AirLLM实现了在仅4GB显存的单GPU上运行70B参数大语言模型推理,获得216分和77条评论的关注。该技术通过创新的分层推理和内存管理策略,极大降低了运行大模型的硬件门槛,有望推动边缘设备上的AI应用普及。
据SiliconAngle报道,Nvidia于7月16日发布了Cosmos 3 Edge,一个紧凑型世界模型,专为在边缘设备上运行视觉推理和机器人控制而设计。同时Nvidia宣布与日本合作建设价值62亿美元的物理AI工厂。
Liquid AI 于2026年7月1日正式发布 LFM-2.5 230M 模型,这是一款专为移动设备、树莓派和机器人等资源受限场景优化的小型语言模型。该模型在极低参数量下展现了出色的推理能力,延续了 Liquid AI 高效架构的设计理念,进一步验证了小模型在边缘计算场景中的实用价值。