Local LLM

飞社-令人惊奇的创意工作者社区-›Local LLM

今日 0 主题 55 排名 410

这个节点讨论在本地电脑或者局域网里运行 LLM（大语言模型）的技术细节

最新最后回复热门精华更多新窗

飞社-FSHEX明白贴，必看！

admin•2024-9-12 11:06•最后回复来自 admin

请教，关于显卡内存

abc634•2025-1-11 21:58•最后回复来自 plasticman64

DeepSeek V3

houshuu•2024-12-27 10:03•最后回复来自 FakerLeung

Qwen2.5 72B 是最好的本地代码补全模型

Leon6868•2024-12-8 18:04•最后回复来自 Donaldo

私有化部署 LLM 及 LVM 选型方案意见收集

Sh1xin•2025-11-7 10:58•最后回复来自 kinkin666

大佬们有没有基于大模型的推荐系统 demo

spitfireuptown•2025-2-17 10:47•最后回复来自 murmur

LLM local 模型入门和使用

iv8d•2025-1-23 18:46•最后回复来自 YsHaNg

如何估算一个大模型需要用到什么性能配置的硬件？

zcm3579•2025-3-17 08:39•最后回复来自 villivateur

三千预算本地 70b 大模型

nlzy•2025-1-3 10:17•最后回复来自 huipengly

A30 显卡-24G 显存，推荐部署什么大模型呢

ZimaBlueee•2025-3-12 17:36•最后回复来自 cat9life

本地部署视觉大模型，用于 OCR 中文文献+翻译，最好的模型是什么？

villivateur•2025-5-12 10:34•最后回复来自 neteroster

大语言模型中规模和模型大小的关系？

SSang•2025-9-5 11:29•最后回复来自 Muniesa

mcp 支持力度探讨

nl101531•2025-3-31 09:40•最后回复来自 nl101531

有没有人尝试过用 ai 去整理自己的知识库

rocloong•2025-8-2 09:31•最后回复来自 panda188

本地部署 LLM 并启用网络搜索，有什么现成的方案吗？

villivateur•2025-3-24 10:35•最后回复来自 villivateur

llama.cpp/ollama 对于类似 vllm tensor parallel 功能的支持。

coefuqin•2025-4-18 19:15•最后回复来自 liprais

模型有时会很快返回并且结果错误是什么原因？

frankyzf•2025-1-8 09:04•最后回复来自 halov

本地 llm client

kid1412621•2025-4-17 22:28•最后回复来自 huluhulu

为 Ollama 添加 APIKEY 鉴权的最简单的方式，防止 Ollama 直接暴露在公网被滥用

mili100•2025-3-6 22:07•最后回复来自 YsHaNg

多卡部署 QWQ Q8 是否可行

PalWorld•2025-6-15 00:53•最后回复来自 mumbler

使用 dify 时代码如何管理?

frankyzf•2025-3-23 11:50•最后回复来自 GPLer

12 3 / 3 页下一页

浏览全部节点

FSHEX / 节点导航

分享与探索

问与答分享发现分享创造自言自语奇思妙想随想纯水无要点创意职场话题酷工作求职推广

编程	程序员 Vue 浏览器 React CSS JAVA Python C# PHP Go Node.js Swift Electron Android

休闲生活	随想休闲电影剧集综艺动漫阅读旅行骑行健身健康生活树洞投资美酒与美食学习课程

城市	西安重庆广州成都北京上海深圳京东香港郑州

注册会员	64614
主题	4903618
今日	1453
昨日	559