本地跑大模型代码助手还挺好用

用 ollama 跑的 llama3 8b 用来对话，starcode2 3b 用来补全，大概有 copilot 7 成的体验。  

m2 mac mini 同时运行两个模型没啥压力。  

小内存核显本也可以白嫖 cloudflare worker ai 的免费额度。  

Blog: https://ray-d-song.com/zh-cn/blog/continue-free-ai-code-assistant/

和通义灵马 比呢？

以前试过在自己本地跑，但是效果很差。等空下了试试你推荐的这个