Archive
2026-05
- 深入 SGLang Context Parallel：源码实现详解 5/7/2026
2026-04
2026-03
- vLLM Model Runner V2 设计文档：从 Persistent Batch、Async-First 到 Triton Native Sampler 3/25/2026
- 我是怎么借助 AI Agent，把这个 Astro Blog 做成一套内容系统的 3/24/2026
- SGLang 中的流水线并行：扩展到百万 Token 上下文及更远 3/24/2026
- 你不知道的 Agent：原理、架构与工程实践 3/21/2026
- 你不知道的 Claude Code：架构、治理与工程实践 3/12/2026
- slime：update_weights 完整设计与实现拆解 3/10/2026
- 从 APRIL 到 RollPacker：如何在 RL 里处理 Long-tail Rollouts 3/2/2026
2026-02
- CUDA 性能知识点：#pragma unroll 可能让你更慢 2/26/2026
- CUDA 非法内存访问的“隐式报错”机制与 compute-sanitizer 实战 2/26/2026
- 图解 Infra 视角下的强化学习性能优化 2/12/2026
- 在 PyTorch 中正确使用 non_blocking 和 pin_memory() 2/7/2026
- 高效强化学习训练 - 优化 verl 中的内存使用 2/5/2026
- 高效强化学习训练 - 优化 slime 中的权重同步 2/5/2026
- NCCL Debug 全栈手段：常用环境变量、日志/拓扑/通信诊断与 Hang/性能/数据异常排查 2/5/2026
- nccl-tests：NCCL 排障与性能定位的“复现机”与标尺 2/5/2026
2026-01
- RoPE 究竟是怎么计算的 1/30/2026
- AWQ：面向端侧 LLM 压缩与加速的激活感知权重量化（Activation-aware Weight Quantization） 1/29/2026
- Long Context 推理优化技术梳理 1/27/2026
- Context Parallel 技术解析 1/27/2026
- FlashAttention 原理与实现 1/27/2026
- CUDA 012 - 编译链接流程 1/27/2026
- 【部分观点记录】翁家翌：OpenAI，GPT，强化学习，Infra，后训练，天授，tuixue，开源，CMU，清华 | WhynotTVPodcast 1/18/2026
- RDMA 在大模型推理框架中的应用 1/13/2026
- MTP 理论加速比分析：从公式到工程决策 1/6/2026
- DeepGEMM 学习指南：面向初学者的 FP8 GEMM 库解析 1/6/2026
- 大模型推理中的 TP-SP-EP 混合并行优化 1/4/2026
2025-12
- 深入 NVIDIA GPU：高性能矩阵乘法（matmul）内核的剖析 12/29/2025
- 深入 vLLM：剖析一个高吞吐量 LLM 推理系统 12/29/2025
- 通过零开销逐层权重卸载技术将 SGLang Diffusion wan2.2 的推理速度加速 60% 12/28/2025
- CUDA Graph 学习笔记 12/27/2025
- Code is not only an implementation, but also a presentation of a way of thinking 12/26/2025
- Understanding Conway’s Law（康威定律） 12/25/2025
2025-11
- 我的首个多 GPU 内核：为 AMD MI300X 编写 All-to-all 11/2/2025