我是一名 50 岁的连续创业者，我身边的同龄人大多在享受生活，对于大语言模型的未来将信将疑，我却义无反顾的投身到生成式 AI 的创业之中。在这里，我想分享一下我的创业故事和我们所构建的三个 AI 产品。
## 项目一：心理聊天机器人
这个项目开始于 2022 年初，那时候 ChatGPT 还没有出现，没有人相信 AI 能发展到今天的地步。我们那时的做法是基于认知行为流派的心理学理论，帮助人们发现思维中包含的认知扭曲，并以更健康的方式进行重塑。由于 AI 技术的限制，我们那时主要采用结构式对话而不是生成式对话，并以非常低的成本打造出一款类似 Woebot 那样的产品，我也很为此而感到骄傲。
但是 ChatGPT 的横空出现改变了一切，生成式 AI 的降维打击让我们之前的对话方式显得过于机械。我们首先想到的当然是基于生成式对现有的产品进行改造，但是我很快发现大模型更擅长的是逻辑推理而不是共情与疗愈。将生成式 AI 用于心理治疗场景，一方面受限于大语言模型的能力，另一方面还需要兼顾伦理和道德问题，这并非像我们这样的小团队现在所能掌控的事情。从某种意义上讲，当前阶段的大模型和人类自身都还没有为此而准备好。
在开发基于生成式 AI 的对话过程中，我们面临的最大困扰是大语言模型生成结果的不稳定性。即使使用同样的提示语，大模型的生成结果都很难预测，更不要说在生产环境中要面临五花八门的用户提问，而且心理场景的聊天还是以多轮对话为主，如果没有好用的评估工具和高效的评估方法，大语言模型的生成稳定性和产品质量就很难把控。
## 项目二：LLM 应用评估的 SaaS 服务
于是，我决定自己开发一款用于评估大语言模型生成质量，主要面向海外市场的 SaaS 产品，并将其取名为 EvalsOne 。这个过程对于我来说还挺困难的，考虑到成本和新方向对于知识结构的要求，我不得不将团队的规模缩小到了 3 个人，我不仅要学习全新的技术栈（我过去使用较多的是 PHP ，而新的项目则基于 Python+React 构建），我们的评估解决方案也需要不断调整来适应大语言模型能力和生态的进化。
这个过程对于我来说无疑是艰难的，但同时也充满了惊喜和收获。如果没有像 ChatGPT 和 Github Copilot ，像我这样一个零基础的 Python 小白，几乎不可能完成这样一个技术难度相当高的项目。接受和拥抱生成式 AI ，对于每个脑力劳动者和创意工作者来说，是必然的选择和趋势。
这个项目花费了我们几个月时间，当我们开始立项时，市场上还只有寥寥无几的几个评估框架，包括 OpenAI 的 Evals ，而等到我们的产品开始进入 Public beta 时，这方面的产品已经相当多了，既有开源的也有基于云端 SaaS 的。我们发现将大模型作为裁判员用于评估尽管未来前景广阔，但是对于我们这样一个小团队来说，现阶段无法在市场培育教育和组建销售队伍方面投入足够的资源，也缺乏实际的案例形成具有说服力的解决方案。
## 项目三：生成式 AI 构建者的工作台
作为一个大语言模型的重度使用者，我经常需要通过 ChatGPT 、Claude 来获得帮助、解决问题，但是它们的免费版本都或多或少有着各种限制，即便付费也不总是满足我的需求，比如在 ChatGPT Plus 上只能使用 Dall-e 来生成图片，而 Claude 的 Pro 版本的条数限制和上下文长度很容易被触及。
另一方面，我还是生成式 AI 应用的开发者，需要经常调试不同厂商的 API ，尽管 OpenAI 、Claude 、Google Gemini 等都提供了各自的 Playground ，它们各有特点，但是彼此不能互通，而且支持的功能也不完整，比如 Claude 的 Workbench 中不能调试图片输入和函数调用，而 OpenAI 的 Playground 直到一年之后才刚刚加入了对于函数调用的支持，并且不支持结构化输出的调试。
我很希望有一个更强大、更开放的工作台，能够提供友好的 GUI ，并且通过 API 连接各个主流厂商的模型 API ，不受对话次数和上下文的限制，并且具有全面的功能，让我可以随心所欲的探索大语言模型的能力。我还希望使用成本对于我来说是可控的，最好是按需付费，而不是被迫购买各种厂商的付费计划却不能充分利用。
我们起初在 EvalsOne 中提供了 Playground 的功能，通过它能够调试各个大语言模型的 API 并快速发起评估运行，我们发现它的受欢迎程度甚至超过了 EvalsOne 本身，于是我们决定将它独立出来，作为我们的一个 Side project 来完善，并且给它一个独立的域名：ConsoleX.ai 。
经过了几个月的开发和完善，我觉得是时候对 ConsoleX 做一个正式的介绍了。
我知道目前市场上有很多 AI Chatbot 可供选择，但我们想打造的不仅是另一个 GUI 界面，而是一个专门为大语言模型的构建者和团队打造的超级工作台，它提供友好、统一的界面、全面的功能和丰富的扩展性。
它的主要功能包括：
- 统一而友好的基于对话的 GUI 界面
- 可实现 20 多个厂商的 300+大模型的集成
- 在 AI 助手和开发者模式之间轻松切换
- 基于多个不同模型使用视觉识别功能
- 通过工具调用外部工作流，实现图片生成等功能
- 利用 AI 智能体组建虚拟团队，提升工作效率
- 通过文件夹整理对话历史，并通过色彩标记
- 利用提示语库管理常用的系统提示语
在付费模式上，我们提供 freemium 的订阅模式，以及 On-demand 的付费模式。免费的新手计划(Starter Plan)用户可以使用 ConsoelX 提供的对话式 GUI 界面，并集成自己的模型、智能体和工具，还可以基于按需付费方式使用一部分共享模型；而升级后的构建者计划(Builder Plan)可以提供更强大的共享模型、智能体和工具，更大的图片和文件上传尺寸、不受限的对话历史和文件保存时长等。
现在我已经退订了所有模型厂商的付费计划，并将 ConsoleX 作为自己的生成式 AI 工作台。我相信只有首先满足我个人作为用户的需求，才能为更多基于生成式 AI 的创造者们提供有价值的产品和服务。
在生成式 AI 的创业路上我们走了不少的弯路，如今 ConsoleX 从 Side project 变成了我们主要的产品，这个项目对我个人而言也意味着很多，虽然我算是一位“高龄”的生成式 AI 方向的创业者，并且有着很大的生活压力，但我依然感觉自己充满了能量，并且坚信生成式 AI 将会对于我们生活的世界产生深远的改变，我也希望自己能够投入并参与到这个过程中。
这个月以来，我们我们终于开始通过 Stripe 获得一些销售收入，尽管数额不多，但也给我了更多动力和信心，激励我坚持下去，打做一款高质量和有价值的产品。
今天鼓起勇气发出这个帖子，是希望能够获得 V2EX 社区朋友们的反馈，无论你看好或不看好这个模式，无论你的建议是正面的还是负面的，我都会照单全收。如果你和我有着类似的需求，希望尝试使用我们的产品，我当然更加求之不得！每一位给我留言或者发送私信的朋友，我都会向你赠送一个月的 Builder plan 会员资格。
ConsoleX 的访问地址：
https://consolex.ai |
|
