我在寻找一款可以集合各个大语言模型平台的 API 的一款 self-hosted 项目,但是现在好像各个开源项目都在强调和 LocalLLM 有多么多么适配,多么多么开箱即用,翻来翻去好像就搜到一个 Open WebUI 是可以方便的集合各个 OpenAI API capable 的 Web 项目,但是我感觉这个项目太重了,很多功能根本用不到,用 Docker 部署在 1c1g 的 VPS 上不一会儿就 OOM 了,特此寻求一款更加轻量的替代品,如下是需求:
- 是 Web 项目,不要 APP ,在学校里要经常用学校的电脑,装软件太麻烦
- 只需要支持 OpenAI 兼容 API 即可,可以自定义 base url ,不强求支持 llama cpp ,ollama 等本地后端
- 支持上传文件和网页搜索功能优先,但不强求,embedding model 不需要部署在本地,调用 API 即可
求推荐,谢谢
|