请教定制 AI LLM 系统

比如根据喂养的课程大纲、教学材料、练习题库和其它相关知识库，生成一个课程助手，帮老师制定学生计划、指导学生预习、复习、练习； 心理上，AI 拟人式一对一交流，给予一定排解、舒缓的对话沟通渠道。

以上，对通用 AI 有一定了解，应该是很难做到吧，如果是定制，可行性大不？

有个主要负责人，参观了若干同行采购或开发的 AI 产品介绍和演示，感觉目前效果不够，那反向思维得出潜力巨大，我方大可弯道超车。 非常相信某个暂且没有实际干货演示，但很懂教学、科研、很会沟通的朋友，对其将来的产品，描述得很好（文字、PPT 式）。 这样，技术支持部门完全没有底气啊，对方不愿意展示真正的技术实力，强调信任无价，技术主管很牛，曾经在百度阿里都是高手。

以上的局势，请问大家怎么看？

补充一下，要求本地部署，非采购云服务。

你指的是大模型也本地部署还是只是用大模型云 api ，大模型本地部署的话先准备几百万再说吧

你要不再组织下措辞？

如果是自己部署自己用，那普通机器（包括没有 GPU ）也能跑大模型。如果是部署服务提供大量用户直接使用大模型，那投入的机器成本首先是道坎。 目前大模型除了机器障碍，其结果不可控也是个大问题。

给我 200 万中介费，我帮你猎一个团队，后面你们自己谈费用，合同期不低于一年。3000 卡的规模，我估计都有点小，前期硬件费用，应该不会低于 2 亿。

光是算 GPU 的钱你们应该都付不起

你这业务到底是要 toC 还是 toB ？不过很明显这两个方向大家很难区分出来 80 分和 95 分，决定的往往是包装渠道关系 另外本地部署很多方案提供商都卖整机的，直接买就好，人家机器模型都弄好了

介绍的太粗糙了 完全不明白面向对象商业模式这些

你要本地部署？那采购个几个 8 卡 A800 节点的钱应该没问题吧？你说的定制如果是 prompt 那问题不大，你要是指的是定制模型那请参考最近 deepseek 训练成本 278.8 万 H800 GPU 小时，另外能有 deepseek 实力和微调经验的人工费我都没给你算。 我真的觉得有时候用户不知道自己想要什么。要这要那的，丝毫不顾自己那点需求其实用不到也用不起。