@JKeita @Meteora626
转自 b 乎
> 很多人都在说权限管理,但目前看其中一个漏洞是开源 huggingface 的 load_ckpt 接口,load_ckpt 是用于加载模型的 checkpoint ,反序列化时使用了 pickle.load(),而 pickle 模块反序列化时会执行数据中任意代码。所以如果有人在 checkpoint 中加入一段恶意代码,就可将病毒种入训练 or 推理过程。
如果真是这样,那确实没招,checkpoint 不属于代码,不会提交进仓库,单纯 cr 啥也看不出来,这个接口很常见,都这么用,唯一能留下痕迹的只有操作历史,这可能也是迟迟没有被发现的原因。 |