dify连自己的oneapi时怎么添加自定义模型?

kknd22 · 2024-6-4 20:08:59 · 274 次点击

dify可以用openai的默认名称模型,但是想自己在这里边加一个,比如qwen,oneapi里已经配好了,其他前端可以调用,但是dify添加openai的自定义模型名称时,报错没有这个名字,是有啥校验吗?如何修改?

举报· 274 次点击
登录 注册 站外分享
18 条回复  
lueluelue 初学 2024-6-4 20:08:59

帮忙顶

handsome 限制会员 2024-6-4 20:08:59

帮忙顶

GordonChanFZ 初学 2024-6-4 20:08:59

水滴

SteveJobs 初学 2024-6-4 20:08:59

正解


用一个冷门模型,比如gpt-3.5-turbo-16k-0613,映射到qwen


bbb 初学 2024-6-4 20:08:59

帮顶

Lester 初学 2024-6-4 20:08:59

OpenAI-API-compatible

provider里用这个,我 claude 这么配的

yulu008 初学 2024-6-4 20:08:59

image

用这个,比如你的oneapi 的地址是

https://oneapi.xxx.xxx

那么在这里的api base地址填写

https://oneapi.xxx.xxx/v1

模型名字、apikey和平台保持一致即可

Davi 初学 2024-6-4 20:08:59



这是其它模型都是OK的,就是配置claude-3-haiku-20240307,一直没成功,报错Credentials validation failed: JSON decode error

这是配置界面



求配置成功的佬指点迷津。

Archie 初学 2024-6-4 20:08:59

我也遇到了相同的情况

12下一页
返回顶部