开源项目上个月·GitHub
Thaw 开源项目:为运行中的 LLM 实现 Git 式分支和 Agent Fork开源项目 Thaw 提出了一种创新的 LLM 推理管理方式——为运行中的大模型提供类似 Git 分支的能力,支持 fork agent 和跳过预填充(prefill)。这为多 Agent 协作和长任务管理提供了更灵活的执行控制,代表了从黑盒调用到精细控制的范式转换。
每日精选 AI 行业动态,点开标题可直达原文出处。
开源项目 Thaw 提出了一种创新的 LLM 推理管理方式——为运行中的大模型提供类似 Git 分支的能力,支持 fork agent 和跳过预填充(prefill)。这为多 Agent 协作和长任务管理提供了更灵活的执行控制,代表了从黑盒调用到精细控制的范式转换。
加密货币巨头 Tether 推出了基于 Bitnet 架构的 LLM 微调框架,通过本地化微调和 P2P 网络分发的方式,让中小企业和发展中国家也能以低成本定制先进 AI 模型。这一举措挑战了科技巨头对高级 AI 的垄断格局。