设为首页
收藏本站
开启辅助访问
全部
问与答
创意
技术
酷工作
生活
交易
资源
节点
飞墙
Follow
明白贴
报酬
登录
注册
飞社-令人惊奇的创意工作者社区-
›
首页
›
数据库
›
大数据量联表操作
FSHEX=FIND+SHARE+EXPRESS
飞社-令人惊奇的创意工作者社区- 是一个关于发现分享表达的地方
现在登录
没有账号?
立即注册
推荐主题
›
各位大佬,建议今年买房么
›
程序员 35 岁被优化真的天经地义
›
有个疑问,为啥游戏一定要上架 steam?
›
证券低佣开户万 0.854 免 5, 评论抽奖送五
›
你们代码编辑器会自动保存吗
今日热议主题
Apple Watch 的心律不齐通知和心房颤动通知
做了一个本地化笔记应用: NoteWizard
重发:出售自用家用 SUV 星越 L
[出] 北京地区出全新未拆封小米 watch s4
一周过去了,一怒之下写的史上最好看的流程
用 AI 做了个小站: YouTube 字幕一键提取
nano-banana-pro-4k、gemini-3-pro、gpt-4o
推荐一款自动生成前端接口代码的工具
chatbotai 这个怎么样 有大佬用吗
出售自用家用 SUV 星越 L
显示全部
|
最新评论
37 条回复
·
1179 次点击
21#
lyusantu
小成
2024-7-31 09:04:40
PG 百万数据就卡不应该吧 EXPLAIN 一下看看优化优化
22#
iamzcr
小成
2024-7-31 09:19:13
百万就卡,要不先看看执行计划?
23#
yiyufxst
初学
2024-7-31 09:23:13
我们 PG 大表(千万、亿级)连太慢,现在说把 PG 同步到 Starrocks ,SR 大表关联性能还可以,缺点是他复杂查询性能好,简单查询不如 PG 、MySQL 这种关系型数据库
24#
lpn666
小成
2024-7-31 09:33:54
flink cdc 然后 join ,最后吧结果数据写到 es 。转批处理为流处理,upsert 保证数据一致性。 后台查询 es 大表,保证实时。
25#
yjfkk
小成
2024-7-31 10:25:42
这不是搜索典型应用场景吗?上 ES
26#
oneisall8955
小成
2024-7-31 12:45:25
查询字段溶于一张表,详细表其余表走主键
27#
caronyan
小成
2024-7-31 14:29:05
用 cdc 预联表打宽做个新表,在新表上把联表查询改成单层的查询就行了,这个数据量延迟也就秒级
28#
RandomJoke
小成
2024-7-31 15:27:21
基于关系型数据库 能优化的:
1. 首次 fetch 只查 id ,根据 id 最后获取想要的数据
2. 部分冗余,部分卡顿场景具体分析解决
3. 分表,这个要针对业务场景了,有些情况要就是没法分的
4. 冷数据处理,比如几年前的数据,把它迁移走
5. 建立好索引,优化查询语句
基于 CDC:
1. 做个新的宽表,数据仍旧放在 PG
2. 新宽表放到 ES CH 等地方
29#
wu00
小成
2024-7-31 15:52:33
要是挡不住这个需求的话,赶紧抽数据做宽表吧。
我们的更恶心,相当于要把“订单”、“收货单”、“入库单”、“退货单”等不同类型的单据强行抽象成同一种业务单据供分页查询,并且每个字段可筛选,充分迎合业务人员的需求“一个页面可以把所有事情都干了”。
其实这需求都还好... 最恶心的是产品没想清楚,就潦草设计快速上线,然后三天两头的加字段改字段、改抽象逻辑、刷历史数据,苦的都是开发、测试。
30#
opzpy
小成
2024-7-31 17:03:05
先查询主表 ,然后多线程查询 join 表,内存连接,如果存在 join 表条件就在这个 join 表的查询结果中过滤掉主表的记录
下一页 »
1
2
3
4
/ 4 页
下一页
浏览过的版块
人工智能
电动汽车
路由器
Android
咖啡
Kubernetes
Apple TV
Web3
剧集
返回顶部