LLM算法工程师

✅[适合人群]

📅1对1指导周期

🙋[AI人才助力]

📜[指导收费]

✅1、独立完成一次小规模预训练：数据、tokenizer、训练循环、检查点
✅2、算清训练的显存账：参数、梯度、优化器状态、激活值
✅3、上手并行训练：ZeRO 各阶段、张量并行切分、流水线气泡
✅4、做混合精度与梯度累积，在有限卡数下把 batch 拉够
✅5、定位训练故障：loss 尖刺、梯度爆炸、通信卡死、掉卡
✅6、做学习率调度与 warmup，理解它对收敛的影响
✅7、构造与清洗预训练语料：去重、质量过滤、领域配比
✅8、做继续预训练（CPT）把通用模型迁到垂直领域
✅9、把训练产物交付给推理侧：权重合并、量化、评估
✅10、项目生产部署：服务器原生部署、Docker 部署

1、PyTorch

2、DeepSpeed

3、Megatron-LM

4、FSDP

1、训练侧专精：把「数据 → 并行 → 稳定性 → 交付」这条链走完

2、显存账与通信账都手算一遍，面试里的高频追问

3、故障排查单独成章：真实训练里最耗时的就是这些

4、在有限算力下也能练：技术咨询方案给出单机多卡与多机的最小可行配置