性能

更多 性能

首页

AI推理性能

图 1:GB300 上 ISL/OSL 8192/2 时,prefill 每 GPU 总 token 吞吐量随并发数的变化。

Qwen3.8-2.4T 的 PD 分离部署

在 GB300 NVL72 上跑 Qwen3.8-2.4T 的 PD 分离部署:高吞吐场景每 GPU 达到 5,000 总 token,低延迟场景每用户 180 个生成 token,两端落在同一条帕累托前沿上。

后端性能测试

手绘风格的示意图:标题「API Performance Testing: How to Design Realistic Tests」,左侧一群火柴人标着 Real Users,蓝色箭头汇入中间写着 API 的服务器方块,方块右侧伸箭头指向 CPU、Memory、Response time、Error rate 四个小图表,下方另有一条箭头指向一个 Database 圆柱

API 性能测试:如何设计贴近真实的测试

性能测试不是往接口上乱发一堆请求。作者先讲了负载、压力、耐久、尖峰、容量、可扩缩六类测试各自回答什么问题,再重点讲怎么设计贴近真实的场景:从用户路径、用业务量反推 RPS 的算法,到外部服务要不要 mock、环境与数据库该怎么配。

硬件性能

三颗 AMD Ryzen 处理器排成一排,由近及远

两年快 50%:AMD Ryzen 是怎么做到的

同为 8 核带 3D V-Cache 的 Ryzen 7,两年间 Geekbench 6 单核快 47%、全核快 58%,而最高频率只涨了 15%。文章用四组数据说明性能来自哪里:晶体管多 50%、派发宽度 6→8、重排序缓冲区 256→448、SIMD 从 256 位加到 512 位。

Arm模拟硬件性能

image

x86 模拟的祸害

在 ARM 的弱定序内存模型上模拟 x86-TSO,是模拟器里长期存在的坑。模拟器要自己补回全存储定序才算正确,代价是大量内存屏障,性能与正确性难以两全,文章梳理了问题根源与几种做法的取舍。