|
**求建议 **! 最近开源小组做了一个 API 开放的项目，但是团队内部对于方向是 LLM 网关还是 API 商城不确定，想咨询下大家的建议。
先谢谢各位大佬！
项目地址： https://github.com/APIParkLab/APIPark
虽然最近几年 API 经济发展有苗头，但是目前我们还看不清企业上下游或者内外直接是否有那么多 API 资产可以商业化。
另外一点是，虽然 AI 的冲击确实有很大影响，但是 AI 的准确度还有待提升，而真正接入 LLM ，把 AI 和公司业务结合的除了 AI 套壳或者 AI 相关产品外，雷声大雨点小。想听听大家意见，欢迎评论。
弱弱说一句.... 如果能给我们点个星星那就再好不过了，跪谢！
LLM 网关：
主要给中大型企业、AI 相关公司用，方便同时接入多款 LLM ，支持多模型的实例的负载均衡；统一管理公司的 LLM 调用过滤敏感信息和实现调用额度的配额，方便成本控制。
1 ）接入各种主流 LLM
2 ） LLM 自动切换
3 ） Prompt 管理、保护机制
3 ）企业内外信息过滤机制
4 ） Token 容量配置、监控、告警
......
API 商城：
主要是给企业端或者独立开发者用，用于搭建自己的 API 商城，接入付费系统给上下游或者面相 C 端开发者订阅购买，如果是 API 商城，想着会增加以下功能：
1 ）付费系统
2 ）商城用户系统
3 ）商场自定义落地页
......
| 
