abc小站

2026-10-31

在 Mac 上跑 763B 的 DeepSeek:Draw Things 开源 Local Code

Draw Things 正式发布并开源 Local Code:在 Mac 本地跑 763B 的 DeepSeek 4.1 Flash 1017,常驻内存最低约 36 GiB;速度与量化成绩为厂商自报或自测。

先猜一下

我先问大家一个问题。

一个 763B 参数的模型,量化以后的安装包是 376 GiB。你觉得,运行它最少需要多少内存?

大部分人的直觉是:内存至少要装得下整个模型,也就是几百 GiB。这样的机器,个人用户基本买不到。

但是,Draw Things 给出的答案是:常驻内存最低约 36 GiB。

这就是这篇文章要介绍的 Local Code。

Local Code 是什么

Draw Things 这个名字,很多 Mac 用户可能见过,它一直在做本地运行的 AI 生成工具。

2026-10-28,它的团队发布文章,宣布 Local Code 结束公开测试,正式发布,并且整体开源,代码在 GitHub 的 drawthingsai/local-code-community 仓库。

简单说,Local Code 是一个在 Mac 本地运行的 agent 应用。

它的特点是"纯本地":模型跑在你自己的电脑上,不需要登录账号,不需要 API Key,也不需要接外部的 MCP 服务。

这对注重隐私的用户很有吸引力。你的文件、照片、邮件,都不用离开自己的机器。

不需要 API Key,还有一层意思:不按 token 计费。

用过云端 agent 的同学都知道,agent 很费 token。它要反复读文件、调工具、改代码,一个任务下来,账单可能比你预想的高得多。本地运行的话,电费和硬件是你自己出的,但是用多用少,不会再有一张按量计费的账单。

当然,这不等于免费。一台大内存的 Mac 本身就很贵,只是把"按月付费"换成了"一次性买断"。哪种更划算,要看你用得多不多。

它能做什么

根据官方的发布文,Local Code 能做的事情相当多。

(1)生成内容。 它内置了 Python 和 draw-things-cli,可以在本地生成图片、视频和信息图,还能做幻灯片和讲解视频。

(2)写代码。 可以编写和审查 Python、JavaScript 代码。

(3)上网办事。 可以访问网站,并用你的凭据登录、预约。

(4)接入系统应用。 可以连接照片、信息、邮件、备忘录、日历。

(5)处理办公文档。 可以修改表格、读取 Word 文件、修改 PPT。

可以看到,它不只是一个写代码的工具,更像一个"本地全能助理"。

这里要提醒一下第(3)点和第(4)点。让 agent 用你的凭据登录网站、读写你的邮件和信息,权限是很大的。本地运行解决了"数据不出机器"的问题,但没有解决"agent 会不会做错事"的问题。建议一开始只给它必要的权限,重要操作要自己确认。

三个模型

Local Code 提供了几个可选的模型,官方给出的门槛如下(均为官方自报)。

模型 参数 安装包 建议内存
DeepSeek 4.1 Flash 1017 763B 376 GiB 64 GiB 以上
DeepSeek 4 Flash 0731 304B(纯文本) 89 GiB 48 GiB 以上
Qwen 3.8 27B 27B 10 GiB 16 GiB 以上

最大的那个,就是开头提到的 DeepSeek 4.1 Flash 1017。站内之前写过这个模型的搜索接口,那是在云端调用,这一次是把它搬到了本地。

官方给出的性能数字是:常驻内存约 36 GiB 时,提示处理约 350 tok/s,生成约 18 tok/s。

18 tok/s 是什么概念?大致是一个人能舒服阅读的速度,聊天够用。但如果让它一口气写一大段代码,你可能就要等一会儿了。

如果你的 Mac 内存只有 16 GiB,那就只能选 Qwen 3.8 27B。如果是 48 GiB,可以试试 DeepSeek 4 Flash 0731。想跑最大的那个,官方建议 64 GiB 以上。

要注意,官网 getlocalcode.app 的内存选择器口径不太一样:DeepSeek 4.1 Flash 1017 写的是最低 32 GB、推荐 96 GB,DeepSeek 4 Flash 最低 32 GB、推荐 64 GB,Qwen 3.8 27B 最低 16 GB、推荐 32 GB。上面的表格按发布文整理。

为什么不用全部装进内存

回到开头的问题。为什么 376 GiB 的模型,常驻内存最低只要约 36 GiB?

官方发布文没有展开讲原理。官网只提了一句"SSD streaming":把模型的一部分放在 SSD 上,需要时再加载。下面的细节是我的推断,仅供参考。

DeepSeek 的 Flash 系列是混合专家(MoE)架构。这种模型虽然总参数很大,但每次生成一个 token,只会用到其中一小部分"专家"。

所以,合理的做法是:只把必须常驻的部分放在内存里,其余的权重放在硬盘上,用到哪部分,再读哪部分。

这就像一座很大的图书馆。你不需要把所有的书都搬到桌上,只需要把常用的几本放在手边,其他的书放在书架上,要用的时候再去取。

这种做法的代价是速度。硬盘再快,也比内存慢。这也许可以解释,为什么官方建议的内存(64 GiB 以上)比最低常驻内存高出不少----内存越大,能放在"手边"的书就越多,需要跑去书架的次数就越少。

再说一遍,这一节是推断,具体实现以官方代码为准。好在它已经开源,有兴趣的同学可以去仓库里看。

2-bit 量化

还有一个细节值得一提。

官方称,他们的 2-bit 量化在基准测试上的成绩,和官方原版成绩接近,没有明显退化。这是厂商自测,不是第三方复现。

2-bit 的意思是,每个参数只用 2 个比特来存储。这是非常激进的压缩,通常会让模型变"笨"。

如果官方说法成立,这是一个很重要的结果。不过要注意,这是 Draw Things 自己测的,还需要更多第三方的验证。

另外,官方说这个量化格式针对 M5 Ultra 的神经加速器做了优化。所以,不同芯片的 Mac,实际表现可能会有差别。

怎么获取

目前可以从 getlocalcode.app 下载。

官方说 Mac App Store 版本"即将推出",截至 10 月 31 日还没有上架,目前从官网直接下载。

源码在 GitHub 的 drawthingsai/local-code-community 仓库。

小结

过去,"在个人电脑上跑几百 B 的模型"听起来像是天方夜谭。Local Code 说明,只要量化和加载方式得当,这件事正在变得可行。

当然,门槛依然不低。想舒服地跑最大的模型,你需要一台大内存的 Mac。生成速度也比不上云端服务。

但它的意义在于提供了一种选择:你的数据和你的 agent,可以完全留在自己的电脑上。

如果你有一台大内存的 Mac,又在意隐私,可以试试它。

(完)

来源:Draw Things 发布文(2026-10-28);GitHub 仓库;Local Code 官网。参数、安装包大小、内存门槛与速度均为 Draw Things 官方自报,表格按发布文整理,官网内存选择器口径另见正文;2-bit 量化成绩为厂商自测;截至 2026-10-31 官网 App Store 入口仍标“Coming soon”;按需加载的原理细节为作者推断。