训练运行汇总
由
scripts/plot_runs.py根据runs/*/config.json、summary.json、train_log.jsonl自动生成，请勿手改。
| 运行 | 说明 | 训练 / 验证样本 | 可训练参数 | 轮数 / 步数 | 批大小 | 学习率 | 训练前验证损失 | 最低验证损失 | 结束时验证损失 | 结束时训练损失 | 用时(秒) | 设备内存(MB) | 参数已更新 | 跑完 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
ft-full-v1 |
全参数微调（官方 full_sft 起点） | 5146 / 969 | 63.912M（100.0%） | 3 / 483 | 32 | 0.0001 | 2.46031 | 0.19333（第 483 步） | 0.19333 | 9e-05 | 931 | 9204.7 | 是 | 是 |
ft-lora-v1 |
LoRA（官方 full_sft 起点） | 5146 / 969 | 0.393M（0.611%） | 6 / 966 | 32 | 0.0005 | 2.46031 | 0.14913（第 350 步） | 0.16015 | 0.00154 | 1125 | 7156.3 | 是 | 是 |
scratch-v1 |
从零训练（随机初始化） | 5146 / 969 | 63.912M（100.0%） | 3 / 483 | 32 | 0.0003 | 9.04399 | 0.20017（第 450 步） | 0.20183 | 0.00606 | 692 | 9194.7 | 是 | 是 |
ft-full-v2 |
v0.2：全参数微调，数据 v2 | 8408 / 1444 | 63.912M（100.0%） | 3 / 789 | 32 | 0.0001 | 2.51256 | 0.1909（第 150 步） | 0.20691 | 5e-05 | 1182 | 9612.6 | 是 | 是 |
说明：
- 训练损失为最后一个记录窗口（10 步）的平均值；验证损失只统计答案部分的 token。
- v1 的运行用
val（969 条）做验证，v2 的运行用val_v2（在 val 基础上加了 v2 的验证样本），两者的验证损失不能直接比较。 - 设备内存为训练结束时 MPS 驱动已分配的内存，包含缓存，不等于峰值需求。
- 用时是墙钟时间。
ft-full-v1训练期间同时在 CPU 上跑过评测，用时被拉长，不能用来比较训练方式的快慢。
本页由 runs/RUNS.md 生成。