performance
约 416 字大约 1 分钟
BigPeng大鹏针对核心业务接口做了极致性能优化,4C/8G 服务器环境下的性能指标如下:
已完成优化(v2.1)
| 优化阶段 | 状态 | 核心优化内容 |
|---|---|---|
| P0 优化 | ✅ 100% | 网关路由 Trie 树、数据库连接池优化、Redis Pipeline、配置缓存无锁优化、SQL 索引优化 |
| P1 优化 | ✅ 100% | JWT Token 验证缓存、密码哈希 Argon2id、本地+Redis 二级缓存、文件分片上传 |
| P2 优化 | ✅ 100% | HTTP/2 支持、分布式追踪 OpenTelemetry、Brotli 压缩 |
| 网关深度优化 | ✅ 100% | Workers 4→8、高频日志降级、CTX 模式优化、上游地址预解析 |
| SQL 注入防护 | ✅ 100% | 全服务参数化查询 + sanitize_sql_value 转义 |
| Scheduler 内存缓存 | ✅ 100% | 消除每秒 DB 全表扫描 |
性能指标对比
| 核心接口 | 当前 QPS | 优化后 QPS | P99 延迟 | 核心优化点 |
|---|---|---|---|---|
| 登录接口 | 8w+ | 20w+ | 0.05ms | L1 Token 缓存 + DragonflyDB |
| 权限校验 | 10w+ | 30w+ | 0.02ms | L1 权限缓存 + 无锁设计 |
| HTTPS 握手 | - | - | 0.02ms | Pingora 原生 TLS 优化 |
| Thrift RPC | 350k+ | 500k+ | 0.08ms | Volo 框架优化 + Monoio |
| 整体 QPS | 12,000 | 30W+ | - | 混合缓存架构 + DragonflyDB |
预期提升:
- QPS 提升 2.5x (12,000 → 30W+)
- P95 延迟降低 4x (8ms → 2ms)
- 缓存命中率提升至 95%+
- 内存使用降低 25%
核心组件性能
Volo-Thrift RPC
- QPS: 350k+ (4C 环境)
- P99 延迟: < 0.1ms
- 优化点: 异步 RPC、Monoio、内存池
Pingora 网关
- QPS: 120w+
- 延迟: 0.02ms (HTTPS 握手)
- 特性: 原生 TLS、Thrift 协议支持、内存池
DragonflyDB
- QPS: 25万+
- 延迟: 0.2ms
- 优势: 比 Redis 快 2.5x,内存效率提升 30%
Moka 本地缓存
- 延迟: 100ns
- QPS: 无限
- 特性: 单机缓存、无锁设计
