多 GPU 并行训练技巧

## 并行策略\n\n### 数据并行\n- 简单但显存受限\n\n### 模型并行\n- 适合超大模型\n\n### 流水线并行\n- 平衡显存和计算\n\n## 通信优化\n- 使用 NVLink\n- 梯度累积减少通信