官方 deepspeek v3 api 开始阉割了

前几天我用 deepspeek 给商品分类。 效果挺不错的。

接口速度平均 10s,但是不需要速度,分类了一万个商品。

昨天

程序运行几分钟就停止了,看打印速度也不对劲。

1. 5 秒? 太快了

2. 分类分数居然有 0.8? 之前我见过最低都是 0.9 。

我就猜测是阉割了。

他有时候返回: "content":"```json\n{\"id\":821,\"name\":\"奶茶\",\"score\":0.9}\n```"}

导致我 json 解析失败。

于是我给他加上一条:- 禁止返回带```的

今天

还是没效果,照样返回 ```json```。

之前一万个商品都返回正常,现在每隔几十个商品就带```json```。

估计分类也没之前准确。

v3 昨天更新了新版本 v3-0324 ，可能有关系

不是阉割了, 是 v3 换版本了

应该是 v3 更新导致的，可以试试深度思考，还是基于之前的 v3 版本

估计就是 v3 更新导致的。 虽然速度快了,但是我又没要求。 更新了,对我来说: 变智障了

你试一下改温度？ https://api-docs.deepseek.com/zh-cn/quick_start/parameter_settings

用 vLLM 跑的 qwen 可以指定 JSON 输出格式： https://www.fex.com/t/1101310

API 不是可以指定输出 json 吗，还会出现这种情况吗

AI 解析日常操作 replace("```json", "").replace("```","") 顺便推荐一个 python 库： https://github.com/mangiucugna/json_repair 。能够实现 JSON 补全，stream 返回有用。

@bjzhou1990 还是会遇到，可能官方也是使用 prompt 实现的，保证不了稳定性。。。