用树莓派跑了一下 deepseek

leconio · 2025-2-2 14:53:45 · 942 次点击
树莓派 5 ,8G 内存,CPU 运算。
跑了下 r1 1.5b 和 7b
7b: 速度慢的要死,一条消息跑了快 5min ,大概 1s 出 2 个字。
1.5b: 速度还可以,类似 o1 的速度(直觉上)。3 条消息以后,要思考挺久,几乎是不能用的状态。

使用 ollama 推理
综上,几乎是不能用的状态。
举报· 942 次点击
登录 注册 站外分享
8 条回复  
ddup 小成 2025-2-2 15:39:55
有毒,树莓派能干这事?
ochatokori 初学 2025-2-2 16:26:51
大过年的还是太闲了
zagfai 小成 2025-2-2 16:42:25
1s 出两个字可以了。。。那还不错哦
zooo 小成 2025-2-2 18:35:57
还是太闲了
leconio 楼主 小成 2025-2-2 18:53:38
@ochatokori @zooo 哈哈哈哈
leconio 楼主 小成 2025-2-2 18:55:17
@ddup jeston 应该能干,我好奇树莓派用 1.5b 模型能不能做到即时回复的标准,就试试。
ddup 小成 2025-2-2 21:33:55
@leconio 嗯,派那点性能,能跑起来都很惊奇了 哈哈
JackyYang 初学 2025-2-2 23:36:33
NB ~
返回顶部