大模型训练避坑指南：从0到1的实战经验

## 前言\n\n在过去一年中，我们团队完成了多个大模型的训练任务。以下是我们总结的关键经验。\n\n### 数据准备\n- 数据清洗比数据量更重要\n- 去重和质量过滤必不可少\n- 建议预留10%作为验证集\n\n### 训练配置\n- Learning Rate Warmup 必须设置\n- Gradient Checkpointing 节省显存\n- Mixed Precision (BF16) 推荐开启\n\n### 常见故障\n1. Loss NaN → 检查学习率和梯度裁剪\n2. OOM → 启用ZeRO或减少batch size\n3. 训练速度慢 → 检查数据加载瓶颈