介绍设备网格、张量分片和局部形状，并分析 AllGather、ReduceScatter、AllToAll 等集合通信在分片矩阵乘法中的开销。
2026-08-01
Scaling Book 中文（02）：理解 TPU——芯片、内存和互连
从 TensorCore、MXU、VPU、VMEM 和 HBM 出发，理解 TPU 芯片结构、矩阵乘法流水线以及多芯片互连方式。
2026-07-25
Scaling Book 中文（01）：Roofline 分析——计算、带宽和内存的上限
使用 Roofline 模型分析计算吞吐、通信带宽和内存容量对模型性能的限制，并推导矩阵乘法的算术强度与性能上限。
2026-07-18
Scaling Book 中文（00）：导读——为什么要理解模型扩展
介绍模型扩展需要解决的计算、通信和内存问题，并概览 TPU、GPU、Transformer 训练与推理的系统分析路线。
2026-07-11
JAX 101（八）：用 lax.scan 表达重复层与循环状态
从 Python 循环展开的问题出发，介绍 lax.scan 的 carry、参数层堆叠和自动微分，并说明如何结合 jax.checkpoint 控制 Transformer 的激活内存。
2026-07-04
JAX 101（七）：JAX 中的通用卷积
从卷积如何提取局部特征出发，结合图像解释 padding、stride、空洞卷积和转置卷积的效果与应用，再用 JAX 实现一维、二维和三维卷积。
2026-06-27
JAX 101（六）：从零拼出迷你 Transformer
将数组、PyTree、随机 key、自动微分和 JIT 组合起来，从零实现一个 decoder-only 迷你 Transformer 的前向传播与训练步骤。
2026-06-20
JAX 101（五）：有状态计算、Ref 与训练循环
从计数器和模型参数入手，说明 JAX 如何显式传递状态、使用 Ref 表达可变数组，并将参数、优化器状态和随机数组织进训练循环。
2026-06-13
JAX 101（四）：显式随机数与可复现实验
解释 JAX 为什么显式管理伪随机数 key，以及如何通过 key 拆分完成参数初始化、Dropout、自回归采样和可复现实验。
2026-06-06
JAX 101（三）：用 PyTree 组织模型参数
介绍 PyTree 的树结构、叶子遍历和整体映射，并用它组织 Transformer 参数、梯度与训练状态。
2026-05-30
JAX 101（二）：函数变换、自动微分与批处理
从纯函数开始介绍 JAX 的 grad、value_and_grad、vmap、jit 与 tracing，并通过一次梯度更新理解函数变换的组合方式。
2026-05-23
JAX 101（一）：数组、jax.numpy 与语言模型的数据表示
从 JAX 数组、不可变更新、shape、dtype 和设备放置出发，理解 token、embedding 与语言模型 batch 在 JAX 中的数据表示方式。
2026-05-16
使用 DESeq2 和 edgeR 进行 RNA-Seq 差异表达分析
从表达矩阵、样本信息和基因注释出发，分别使用 DESeq2 与 edgeR 完成 RNA-Seq 差异表达分析，并记录容易出错的数据对应关系。
2026-05-09
sched_ext 与 scx_lavd 用户态前端解析
从混部调度需求出发，介绍 sched_ext、DSQ 和 scx_lavd，并分析其 Rust 用户态前端的参数、生命周期与监控逻辑。
2026-04-23
Linux CPU 调度与 sched_ext 基础：从任务唤醒到 CPU 执行
按照任务唤醒、入队、选取、上下文切换和停止运行的顺序，介绍 Linux CPU 调度主流程，以及 sched_ext、struct sched_ext_ops、DSQ 与用户态加载程序之间的关系。
2026-04-09
使用 libbpf 调试 Futex eBPF 程序
以 futexlat 为例，记录 eBPF 程序从编译、加载、attach 到 BPF Map 读取和 probe 触发的排查方法。
2026-03-23
Futex 性能分析
使用 eBPF 观测 Futex 的等待与唤醒路径，分析锁竞争、等待延迟和观测工具自身开销，是《Futex 概述》的后续。
2026-03-09
GCC、G++ 与 Windows SDK：C/C++ 混合编译和头文件排查
从编译与链接流程出发，说明 gcc 和 g++ 的区别、C/C++ 混合工程的构建方式，以及 Windows SDK 头文件无法被 MinGW 找到或使用时的排查方法。
2026-02-23
Rust 语言学习总结
阅读《Rust 程序设计语言》并完成 Rustlings 练习时，对所有权、借用、字符串、常量和作用域的阶段性总结。
2026-02-09
latex报错
大部分情况下latex版本导致的问题都比较好解决，这个bug由于报错指向地方不那么明确，因此一直没发现。
2026-01-31
内核插桩技术
从 BCC 到 libbpf：eBPF 插桩技术与前端工具的演进
2026-01-21
计算机网络常考八股
记录面试遇到的一些问题。
2025-12-15
配置端口映射踩坑记录
实验室IP不够，于是通过路由器给几个服务器做端口映射，但是使用的systemd 的 socket 激活模式于是端口没法起效。
2025-12-05
探秘proc和sys下的内存接口
Linux 探秘 /proc 和 /sys 下的内存接口
2025-11-27