用本地模型写代码够用吗,我拿它跑了两周
两周前我把编辑器里的补全切成了本地模型,想看看断网状态下还能不能干活。用本地模型写代码够用吗,我的结论是:改代码够用,从零写新模块不够用。
这个结论不是感觉,是两周里攒下来的具体场景。
用本地模型写代码,我的分工:本地干哪些,云端干哪些
先说我怎么分工的。本地模型只做三件事:补全单行、解释我没读过的函数、写重复度高的样板代码。
另三件事我不交给它:设计模块结构、跨多个文件改动、排查需要来回推演的 bug。
这条线不是我拍脑袋划的,是这周撞出来的。 有一次我让它加一个字段,它改对了那一处,没告诉我另外两个地方也在用这个结构。
这两周里做对的地方
第一,把它当补全用,不当作者用。 补全的活它做得不错,因为它要猜的东西很短,上下文就在眼前。
本地模型和云端模型有一个直接差别:延迟更低,不用等网络。敲一行等它接下半句,节奏是连贯的。
第二,用离线场景兜住了本来会停的地方。 我通勤路上和断网的时候也能改代码。这部分收益不大,但确实存在——以前那种时候我基本只能看文档。
第三,先在低风险的地方用。 我挑的是注释、日志、参数校验这类改错了也不致命的代码,前三天专门用它练手。
做错的地方更值钱
错误一:一开始就想让它顶替在线工具。 第一天我拿一个跨文件的改动试它,它给了个看起来对的方案,我照着改了半小时,最后回滚。
错误二:没有把项目上下文喂进去。 本地模型默认不知道我的项目结构。它写出来的代码风格和我现有的对不上,我得逐行改,改的时间比我自己写还长。
给项目上下文这件事本身有讲究,我踩过的坑写在 AI 写业务逻辑为什么总漏,我找到 3 个原因 里。
错误三:拿它做没把握的判断。 有一处我拿不准要不要改,问它,它给了个很肯定的答案。我信了。后来发现那个判断依赖的是它没看到的那部分代码。
换个人能不能复制
能,但复制的不是「本地模型好不好」,是那条分工线。
如果你的项目规模小、单文件改动多、代码风格稳定,本地模型能顶的比例会比我高。
如果你做的是多人协作的项目、结构复杂、改动经常跨文件,那就别指望它替你写主体代码。
另外两句提醒:喂项目代码之前先看合同约定,我写在了 公司代码能不能喂给AI,先看合同这条;涉及客户资料的处理,红线在 客户资料放在AI里安全吗,我列了三条红线 里。
最后算一下值不值,我把自己跑通的过程写成了 本地大模型部署步骤,我用一晚上跑通第一个,成本对比在 本地模型和云端模型,哪个更划算算完才知。
用本地模型写代码够用吗,两周下来我的答案是分场景的:它是补全器,不是替我拿主意的人。
常见问题
Q:用本地模型写代码够用吗,能完全替代云端吗?
目前不能完全替代。补全、解释代码、写样板这三类它够用;跨文件改动和需要推演的问题,我还是切回云端或者自己动手。
Q:本地模型写代码延迟真的更低吗?
是的,这是它最实在的优势,不用等网络往返。但延迟低不等于质量高,两件事要分开看。
Q:本地模型和云端模型能不能搭着用?
能,我现在就是这么用的。默认走本地做补全,遇到需要跨文件判断的时候手动切云端,切换成本可以接受。
相关阅读
- AI 写业务逻辑为什么总漏,我找到 3 个原因
- 本地大模型部署步骤,我用一晚上跑通第一个
- 本地模型和云端模型,哪个更划算算完才知
- 公司代码能不能喂给AI,先看合同这条
- 客户资料放在AI里安全吗,我列了三条红线
本文作者西米,37 岁程序员,一个人加五个 AI 员工在跑一家公司。踩过的坑和真实账本都写在公众号「西米分享」。
完整代码、踩坑清单与最新进展,都在公众号。
📱 关注公众号「西米分享」