设为首页
收藏本站
开启辅助访问
全部
问与答
创意
技术
酷工作
生活
交易
资源
节点
飞墙
Follow
明白贴
人人影库
报酬
登录
注册
飞社-令人惊奇的创意工作者社区-
›
首页
›
Java
›
请教下微服务间大批量数据获取一般是如何处理的 ...
FSHEX=FIND+SHARE+EXPRESS
飞社-令人惊奇的创意工作者社区- 是一个关于发现分享表达的地方
现在登录
没有账号?
立即注册
推荐主题
›
买五菱星光 S 会不会很没面子
›
开发完成一个吉卜力图片生成器,基于 GPT 4
›
被打报警立案了,对方不承认打我,怎么办?
›
关税 104%,对程序员群体有冲击吗?
›
有远程控制手机打卡的方案吗,近期公司严抓
今日热议主题
诡异! Enter 键自动唤醒 apple music 并自
求助下载尿袋系统的问题
base [成都] ,自研产品非外包, 2 年以上
求推荐蓝牙 61 键机械键盘
大模型落地怎么除了知识库还是知识库
致敬传奇枪手: 托马斯.马修.克鲁克斯
三阳了,还有人没有阳过吗?
出 2 套 C-C 数据线,今年 3 月份妙控板和
出一个 MOFT 平板 磁吸支架
我的第一个网站,做了个轻量 HTML5 小游戏
请教下微服务间大批量数据获取一般是如何处理的
gibber
· 2024-10-17 08:24:57 · 380 次点击
比如 a 服务需要从 b 服务获取几十万的数据处理后生成自己的业务数据,如果 b 服务直接从数据库中一次性查出来返回,对内存的压力就很大。
现在的方案是使用分页,每次最多 1 万条记录,获取一批处理一批,把整个业务处理的时间拉长了。
想知道还有没有更好的办法
举报
·
380 次点击
登录
注册
站外分享
微信扫一扫
QQ分享
微博分享
豆瓣分享
复制链接
显示全部
|
最早评论
16 条回复
17#
kaf
小成
2024-10-17 09:47:29
流格式数据
16#
lifei6671
小成
2024-10-17 09:47:03
一般情况下是通过下面方式实现的:
1 、建立只读线下备库,通过从库的方式从线上库实时同步数据,不能用于线上系统读,只能用于线下业务大批量读。
2 、建立只读从库,和主库实时同步,只能进行线上系统只读。
3 、通过 binlog 实时建立分析宽表,一般用来汇总各个业务方数据,建立大宽表,支持线下业务分析已经大批量查询等。
15#
ZZ74
小成
2024-10-17 09:41:58
搞那么麻烦干啥,导出文件写入共享目录,调用接口通知 喂 数据我放到 xx 目录下的 x 文件里了
14#
landerwong99
小成
2024-10-17 09:34:23
要么就离线近源处理,来个服务直接调 B 库的只读库,
要么就流式处理,使用 kafka 之类的。
13#
Plutooo
小成
2024-10-17 09:21:12
把 B 服务当成直接从数据库查不也是存在一样的问题么,还是说担心 B 服务的内存占用
12#
Wh1t3zZ
小成
2024-10-17 09:13:42
流式数据处理
11#
povsister
小成
2024-10-17 09:05:27
你这种 case 如果数据量持续上升,应该用 spark 这种离线作业,或者压根不应该拆分服务。
10#
SmartTom
小成
2024-10-17 09:02:18
a 服务直接做多数据源直连 b 服务数据库/doge
9#
ymmud
初学
2024-10-17 08:58:30
才几十万条,服务之间类似于流式处理直接拉过去就行了
下一页 »
1
2
/ 2 页
下一页
浏览过的版块
Go 编程语言
动漫
宽带症候群
macOS
iPad
返回顶部