另外我本地用 ollama 装了 embding 和 postgresql 用作向量数据库,但 chat API 仍然是用的在线的 API ,有点好奇到底发生了什么线上的那个 API 知道了我本地的向量数据。

谢谢
举报· 516 次点击
登录 注册 站外分享
4 条回复  
akira 初学 3 天前
1. 先去知识库(向量数据库)获取你要的信息 2. 把获取到的信息和你的问题 一起丢给 LLM
akira 初学 3 天前
抱歉回车按错了。 3. 所以 llm 那边不管是在哪,自然都能获得你本地向量数据库的信息了。
BraveXaiver 楼主 小成 3 天前
@akira #2 那合着每次调用 chat AI 时都程序都有大量上下文跟过去呗。。
mumbler 小成 3 天前
是你的客户端把向量库检索结果和问题一起发给在线 API 的
返回顶部