大家好。
最近正在学习约束采样。


想只使用一个固定的词汇库里面的词来生成文本。

尝试了 GBNF grammer 的方法,但是发现速度会降低很多,而且 GBNF grammer 不支持 negative word 的语法。
考虑在用 outlines 这样的方式,但是又遇到了其他的问题。

不知道有没有大神可以指点指点,愿意按小时付费。
举报· 103 次点击
登录 注册 站外分享
快来抢沙发
0 条回复  
返回顶部