设为首页
收藏本站
开启辅助访问
全部
问与答
创意
技术
酷工作
生活
交易
节点
飞墙
Follow
明白贴
工算小助手
登录
注册
飞社-令人惊奇的创意工作者社区-
›
首页
›
数据库
›
大数据量联表操作
FSHEX=FIND+SHARE+EXPRESS
飞社-令人惊奇的创意工作者社区- 是一个关于发现分享表达的地方
现在登录
没有账号?
立即注册
推荐主题
›
关于根据生辰八字取名字被F友说胡说八道这
›
别再神化 VS Code 了,现在的它臃肿得像个
›
有没有一种“把私钥关进时间胶囊”的工具?
›
千问的这次崩了,会属于事故吗?
›
[吐槽] 看着 Claude 4.6 和 GPT-5.3 神仙打
今日热议主题
claude 网页版最近怎么喜欢输出 doc 文档了
京东家政 30
[招聘] 全远程|项目管理(1–3 年)| 10
纯小白与技术大佬合开的中转站,支持 claud
有没有性价比高 IP 质量不错的 vps 推荐
请教一个问题,国内哪家 CDN 性价比比较高
求推荐支持缩放 200%显示 1080p 内容的远程
[拆掉弱电箱] 双 5G 基站级调优, WiFi 再
🔥 OpenClaw 火力,利用 TG Topics 实现多
基于 cloudflare durable object 的 p2p 中
显示全部
|
最新评论
37 条回复
·
1342 次点击
21#
lyusantu
小成
2024-7-31 09:04:40
PG 百万数据就卡不应该吧 EXPLAIN 一下看看优化优化
22#
iamzcr
小成
2024-7-31 09:19:13
百万就卡,要不先看看执行计划?
23#
yiyufxst
初学
2024-7-31 09:23:13
我们 PG 大表(千万、亿级)连太慢,现在说把 PG 同步到 Starrocks ,SR 大表关联性能还可以,缺点是他复杂查询性能好,简单查询不如 PG 、MySQL 这种关系型数据库
24#
lpn666
小成
2024-7-31 09:33:54
flink cdc 然后 join ,最后吧结果数据写到 es 。转批处理为流处理,upsert 保证数据一致性。 后台查询 es 大表,保证实时。
25#
yjfkk
小成
2024-7-31 10:25:42
这不是搜索典型应用场景吗?上 ES
26#
oneisall8955
小成
2024-7-31 12:45:25
查询字段溶于一张表,详细表其余表走主键
27#
caronyan
小成
2024-7-31 14:29:05
用 cdc 预联表打宽做个新表,在新表上把联表查询改成单层的查询就行了,这个数据量延迟也就秒级
28#
RandomJoke
小成
2024-7-31 15:27:21
基于关系型数据库 能优化的:
1. 首次 fetch 只查 id ,根据 id 最后获取想要的数据
2. 部分冗余,部分卡顿场景具体分析解决
3. 分表,这个要针对业务场景了,有些情况要就是没法分的
4. 冷数据处理,比如几年前的数据,把它迁移走
5. 建立好索引,优化查询语句
基于 CDC:
1. 做个新的宽表,数据仍旧放在 PG
2. 新宽表放到 ES CH 等地方
29#
wu00
小成
2024-7-31 15:52:33
要是挡不住这个需求的话,赶紧抽数据做宽表吧。
我们的更恶心,相当于要把“订单”、“收货单”、“入库单”、“退货单”等不同类型的单据强行抽象成同一种业务单据供分页查询,并且每个字段可筛选,充分迎合业务人员的需求“一个页面可以把所有事情都干了”。
其实这需求都还好... 最恶心的是产品没想清楚,就潦草设计快速上线,然后三天两头的加字段改字段、改抽象逻辑、刷历史数据,苦的都是开发、测试。
30#
opzpy
小成
2024-7-31 17:03:05
先查询主表 ,然后多线程查询 join 表,内存连接,如果存在 join 表条件就在这个 join 表的查询结果中过滤掉主表的记录
下一页 »
1
2
3
4
/ 4 页
下一页
浏览过的版块
Apple
创业组队
分享创造
分享发现
日本
程序员
金融经济
问与答
返回顶部