|
@rabbbit #26 这个我可太懂了,因为我上家也是抄 civital 的,国内的是抄 liblibai 的设计,基本上它们两家的功能都抄,当然我上家生图后端是直接买的 falai 的服务
直接做如果只是基础模型不用 lora 等,其实也没特别多难度,就是 uv add 搞个 transfromer 库,然后集成一下 gguf 或者 nuchaku 的量化加速模块,然后如果多 worker 可能需要上 ray 这个库。
或者不想搞复杂,直接部署 comfyui 然后抓个 api 调用的 body ,后端服务直接调用就完事了 https://i.imgur.com/agAJ0Rd.png |