我想看看我的显卡显存和 GPU 全部吃满的样子……让我觉得我这大价钱没白花……

那种视频是在纯粹在借热度引流吸引人。 不过本地部署确实是个很实用的需求，只不过目前对于个人或一般企业而言部署一个好用的成本太高了。参数低的没啥用，参数高的又部署不起。 场景也挺多的，企业涉密是一方面。 对于个人而言还有各种敏感词审查以及隐私方面的问题，以及官方的各种限制。 我之前有弄个联网搜索的工作流，我就不敢把搜索结果丢国内的 API ，太危险了...像 Github 上有一些专注于各种国内敏感词的仓库的 SEO 还特别高。被封号了还是小事。丢本地 LLM 就不用考虑这些了。

1 、国内是最不安全的，那几个公司都有把你数据当成他们数据的思想 2 、国外稍微安全些，但就是怕那天突然全面东西分离突然就失联了 = 自己建对于稳定的业务长远的考虑大的，特别是 guojia 级的企业，是必须的

已经有部分地方公安在本地部署 Deepseek 了

说好听点叫练手 说不好听就是自主知识产权

很多云服务比如 azure 也提供本地部署，不光是 ai 。

大公司很多服务都要求本地部署的, 随便啥东西, 更别说什么银行等国企了