AI快讯
爆火项目新上榜更新日期 2026-11-13 13:53整理:AI雷达增益 0捕获 0

Edge0-145B:官方宣称 29GB 内存就能在个人电脑跑 145B 大模型

Edge0团队发布145B大模型,宣称29GB内存即可本地运行,复刻性未经独立验证

图源:sroussey

Edge0-145B 是 Edge0 团队发布的一个主打本地推理的大参数 MoE 模型,据其官方博客自述,靠「专家矩阵共享」技术让 145B 参数的模型在普通电脑上以峰值约 29GB 内存运行,目标是把前沿 AI 能力搬到个人设备;具体做法是每组 64 个专家共享两个大矩阵,每个专家只保留刻画自身差异的小参数集,在专家数量不变的前提下压缩需存储和搬运的权重。热度目前属中等:2026 年 11 月 12 日发布当天在 Hacker News 获 145 分、36 条评论,属常规首页讨论量,尚无 GitHub 星数、权重下载量等可核查的开源热度证据。社区态度偏审慎,有评论质疑它只是对现有模型量化后的品牌化包装,开源可复刻性未经独立验证。

hackernews · sroussey · 11月12日 23:06 · 社区讨论

「为何受关注」 它踩中的需求很明确:前沿大模型动辄要数据中心级硬件,而「在自己电脑上跑」正是本地 AI 社区最关心的问题,官方宣称的 29GB 峰值内存恰好落在高配 MacBook Pro 可承受的范围。与常见的直接量化做法相比,其差异点在「共享大矩阵、保留专家数量」的压缩思路,官方展示的 Blender 工具调用演示也吸引了不少围观。但这一差异目前只有官方口径支撑,评论区已有人怀疑它是现有模型的量化换皮,真实成色要等开源与独立复现来验证。

「上手路径」 目前可核查的入口只有官方博客(edge0.ai 的发布文章),材料中尚未出现独立验证的开源仓库或下载量数据,动手前应先确认权重是否实际可获取。技术路线据官方口径为 MoE 架构加专家矩阵共享:每组 64 个专家共享两个大矩阵、各专家仅保留少量差异参数,宣称 145B 参数、峰值内存 29GB;有评论者认为这一量级「一台配置不错的 MacBook Pro」即可承受。今晚可以做的第一个动作:打开官方博客,核实权重下载与运行说明是否已公开,并对照自己机器的内存余量(需高于宣称的 29GB 峰值)判断能否跑起来;在独立复现结果出现之前,建议把它当作「待验证的留意对象」而非可直接照抄的模板。

查看原文 ↗

做AI项目,先看AI雷达 - AiRadar.com.cn · 全部AI快讯 →