之前觉得旁路由有些多余,现在准备抛弃主路由了
目前使用 N4120 ,内存 8GB 作为主路由,这个配置应该也不算差
部署了太多的东西,经常会断流几秒钟,一断流就会影响到家里的所有设备
目前的想法是买一个 mac mini m4 32GB 作为旁路由和本地大模型服务器
1 、部署 ollama 32b 这个规格的大模型,并且部署 open webui 这类的交互界面
2 、虚拟机安装 openwrt 作为旁路由
3 、使用 docker 部署 home assistant 、adguard home 这类软件
4 、部署一个 nas ,但是目前没想好方案,是用虚拟机部署 truenas 这类还是轻量级的 filebrowser 这种
5 、安装 frpc 方便出门在外能访问家里的大模型(这个好像开销不大)
有没有大佬实操过,这些东西 32g 内存能跑起来吗?
举报· 215 次点击
登录 注册 站外分享
1 条回复  
Vneix 小成 3 天前
1.本地部署 32b 大模型是刚需吗? 如果不是,买 api 或者用免费的在线服务可能更好。 2.喜欢折腾的话,推荐主传统硬路由+旁软路由的方案。 主硬路由保证家人/智能家居不断网,软路由作为旁路由接自己折腾的服务,比如 3 提到的。 3.略。 4.买品牌 NAS 做存储。 好处是外观好看、系统好用、现在有补贴价格比自组也贵不到哪去、有保修、有免费的远程技术支持。 软路由上需要访问 NAS 的程序远程挂载存储访问就行。 存储和折腾分离,这样折腾的机器崩了也不影响存储的数据。 5.同 1 。 以上只是个人意见,实际还是按照自己的喜好来。
返回顶部