66 条回复  ·  6903 次点击
TimPeake 小成 昨天 15:27
@zwpaper #45 可能我电脑性能不太行,200 秒左右启动成功, 刷新可以打开了。安装了 cuda toolkit, 试了下 tab 补全的时候 3050 显卡瞬间飙升到 70%+使用率
Alias2023 小成 昨天 15:47
能本地部署了,这个怎么还需要订阅
JZen 小成 昨天 15:53
牛逼,先点 Star ,等会部署玩玩
ZSeptember 小成 昨天 16:04
很早就看到了,没想到是国内厂商,支持。
zwpaper 楼主 小成 昨天 16:42
@TimPeake #50 LLM 基本都是这样,不同模型对显卡的利用率也不一样
zwpaper 楼主 小成 昨天 16:43
@Rrrrrr "我们的 API" 就是指的本地运行的这个 Server API ,公司不让上网指的应该是不让上互联网吧,公司内网部署 Tabby ,然后内部都访问这个 API 就行
zwpaper 楼主 小成 昨天 16:44
@a132811 是的,允许添加 GitHub/GitLab 等仓库,会自动去拉取,或者本地的 Git 仓库也都是可以的
zwpaper 楼主 小成 昨天 16:45
@Alias2023 个人本地部署基本没有限制,有一些企业功能是限制了需要订阅才可以的,这也是我们的商业模式
zwpaper 楼主 小成 昨天 16:47
@ZSeptember 哈哈,互联网时代,主要还是看产品
Rrrrrr 初学 昨天 16:51
@zwpaper #55 有没有推荐什么配置,能跑得比较好?
返回顶部