AI 资讯

Hacker News热门开源项目AirLLM实现了在仅4GB显存的单GPU上运行70B参数大语言模型推理，获得216分和77条评论的关注。该技术通过创新的分层推理和内存管理策略，极大降低了运行大模型的硬件门槛，有望推动边缘设备上的AI应用普及。

中国AI公司月之暗面的Kimi K3模型在AMD MI355X GPU上成功运行，实现了比NVIDIA B300更优的单位美元推理性能。这一突破标志着AMD在AI推理市场首次在性价比上超越NVIDIA，对于希望降低推理成本的企业用户具有重大意义，可能改变AI硬件市场的竞争格局。（Wafer.ai，2026年8月2日）

OpenRouter推出的Fusion复合模型API通过堆叠多个预算级AI模型，在基准测试中击败了GPT-5.5和Claude Opus 4.8，以低成本实现了接近前沿模型的AI性能。据Decrypt报道，这一方法代表了模型路由技术的重要突破。

AI芯片制造商Groq正筹集6.5亿美元融资，公司战略从硬件业务转向专注AI推理优化。此前Nvidia刚完成200亿美元人才招揽。Groq的转型反映了AI芯片行业从训练侧向推理侧的重心转移趋势。