做一个业务层的 ratelimit saas 服务是否可行

xcaptain · 2025-9-28 17:47:45 · 521 次点击

最近做了一些 AI 接口套壳的应用,发现在接口校验这里都用到一个通用的模式,如:

  1. 免费用户每 5 分钟能使用一次接口,一天最多 3 次
  2. 付费用户每分钟能使用一次接口,

这种功能虽然不难做,但是每新做一个应用都要实现一遍,还是很繁琐的,如果有一个 SaaS 服务,能让开发者快速实现 ratelimit ,是否会有人用呢?例如只要在接口入口处加一行代码:

checkRateLimit(tierName, resourceName)

就能基于在 SaaS 上配置的规则,自动判断当前用户的付费等级,是否能访问这个资源。

大家觉得这个点子可行吗?

举报· 521 次点击
登录 注册 站外分享
4 条回复  
needpp 初学 2025-9-28 19:27:15
可以,快做出来
xcaptain 楼主 初学 2025-9-28 22:37:54
我也觉得可行,问了 AI ,目前做云厂商内置的限流服务,要么在边缘的 CDN 层,要么在网关层,还没有能集成到应用层的。对于小团队来说,自己开发 ratelimit 功能得先去 github 找开源代码,然后写代码集成,然后部署,可能还需要配置数据库,redis 等依赖,一套下来可能几天就过去了,还不如找个 saas 几行代码接入一下
HaibaraDP 初学 2025-9-28 23:12:26
java 的话 bucket4j 的 springboot starter 引入之后配置文件里写规则就行了,1 小时都用不了吧
xcaptain 楼主 初学 2025-9-29 01:22:54
确实,一说到 ratelimit 大家想到的是应用框架里的限流中间件,启用后能基于 userId 或者 ip 做一些频次限制。我这个改为叫 quota 管理可能更合适,AI 时代之前接口都是没有成本随便用只要限制次数就行,现在 AI 接口每次调用基本都会产生一点成本,所以要更精细的控制,如基于用户订阅计划来限制
返回顶部