19 条回复  ·  2125 次点击
hefish 小成 2025-1-29 14:36:57
我去,我也要我也要,。。。。。我也要搞 64G 的 mac 。。。
yukino 小成 2025-1-29 15:19:31
@ZeroClover API 能给我写小黄文吗🤪
bybyte 小成 2025-1-29 15:37:32
如果不是对隐私性要求特别强,官网的满血模型更好
ShadowPower 小成 2025-1-29 15:46:17
@hefish 有 64G 内存的 Mac 玩玩还可以,为了跑 LLM 买 64G 内存的 Mac 就不值得了……
hefish 小成 2025-1-29 15:48:39
@ShadowPower 没事,老板出钱
chiaf 小成 2025-1-29 15:51:30
@hefish 老板出钱就买 128G 的,64G 还是太小了🤪
hefish 小成 2025-1-29 15:54:00
@chiaf 这倒也是啊。。。也可以多搞几台。。。办公室一人一台嘛。。。
Donaldo 小成 2025-1-29 16:16:28
速度太慢了,只能是体验一下。真要想提供“服务”,不如买 4 张 22g 的 2080ti 。。
dji38838c 小成 2025-1-29 16:26:42
何必呢,要隐私的话,自己云上部署一个 GPU 的不是更好。
haiku 小成 2025-1-29 16:47:02
有海外老哥尝试部署原版不蒸馏 r1 ,$ 6000 跑几个 token/s
12
返回顶部