Ai基础设施工程师

✅[适合人群]

📅1对1指导周期

🙋[AI人才助力]

📜[指导收费]

✅1、从零搭一套可训练的小集群：驱动、CUDA、NCCL、容器运行时
✅2、做 GPU 调度与切分：整卡、MIG、显存共享、抢占与优先级
✅3、诊断集群故障：NCCL 卡死、掉卡、网络抖动、显存泄漏
✅4、做存储与数据供给：高速缓存、数据集分发、IO 不成为瓶颈
✅5、搭监控体系：GPU 利用率、显存、温度、NVLink/IB 流量
✅6、做资源配额与多租户：按团队/项目限资源并出账
✅7、容器化推理服务：镜像瘦身、启动加速、弹性伸缩
✅8、做训练任务的断点续跑与容错重启
✅9、做成本优化：利用率提升、混部、闲时回收
✅10、项目生产部署：服务器原生部署、Docker 部署

1、Linux

2、CUDA

3、NCCL

4、Docker

1、集群视角：从单机多卡讲到多机多卡，重点是「怎么不出事」和「出了事怎么查」

2、故障排查占很大篇幅：NCCL 卡死、掉卡、慢节点，都是真实踩过的坑

3、成本视角贯穿：利用率每提一档都是真金白银

4、有限算力也能练：技术咨询方案给出单机多卡的最小可行集群