大模型应用工程师
💵 2026 年薪资区间与平均薪资
下表口径：一线城市 · 社招 · 税前月薪（现金部分）。数字综合 2026 年公开招聘信息与薪酬报告整理，不是精确统计 —— 校招与社招、均值与中位、是否含股票期权的口径差异很大，实际请以招聘平台实时岗位为准。
| 层级 | 月薪区间 | 说明 |
|---|---|---|
| 🥉 初级（0–3 年 / 校招） | 18–30K | 看基础与动手能力，校招通常要求硕士起步 |
| 🥈 中级（3–5 年） | 30–52K | 能独立负责模块，市场上的主力区间 |
| 🥇 高级 / 专家（5 年以上） | 52–90K | 能定方案、带团队；含股票期权的总包常显著高于现金部分 |
平均月薪参考：约 38K（一线城市社招口径）。溢价点是从提示到微调的完整决策能力：知道什么时候不该微调，比会用 LoRA 更值钱。
可以对照的公开锚点：2026 届校招里 AI 相关岗位月薪中位值约 2.53 万元；偏中高端的样本中 AI 岗位平均月薪约 6.07 万元；算法研究员 / 大模型算法岗位普遍在 7 万元 左右，AI 科学家 / 负责人可达 13 万元 以上。资深 AI 人才 2026 年的调薪幅度最高可达 20%–35%，高于市场平均。
地域差异明显：长三角与大湾区贡献了全国近七成的 AI 岗位需求，北京、上海、深圳、杭州、苏州的薪酬普遍高于其他城市。
🏦 岗位画像：与「AI 应用开发工程师」的边界
两个岗位名字接近，面试常被一起投。区别在离模型有多近：
- AI 应用开发工程师：偏产品与全链路集成，重点是提示词、检索、工具、交互与上线，通常不碰训练。
- 大模型应用工程师：偏模型能力的选择与调优——同一件事，要能判断「该换模型、该调提示、该补检索还是该微调」，并亲手做小规模微调与评测。
一句话：应用开发回答「怎么把功能做出来」，大模型应用回答「怎么让效果达标，且成本可接受」。
📅 岗位职责
- 模型选型：开源 vs 商用、参数规模、上下文长度、许可与合规、中文/领域能力实测
- 效果调优的组合拳：提示优化 → 检索增强 → 小样本微调 → 蒸馏，按成本递增顺序验证
- 微调实施：数据构造与清洗、LoRA 参数、训练与评测闭环
- RAG 与微调的边界判断：什么知识该进权重，什么该留在检索里
- 评测体系：业务评测集、自动 + 人工、回归测试防止改坏
- 与业务对齐指标：把「回答得不错」翻译成可度量的任务成功率
🗝️ 岗位技能：技术基础
必备
- 模型能力地图：主流开源与商用模型在推理、代码、中文、长文本、工具调用上的强弱势
- 提示与上下文：few-shot 示例选择、结构化输出、上下文长度与成本的关系
- RAG：切分、embedding、混合检索、重排、引用；知道每一环的收益量级
- 微调：LoRA/QLoRA 参数含义、数据格式（含 chat template）、过拟合的识别
- 评测：评测集构建、LLM-as-judge 的偏差与校正、显著性判断
- 推理成本：token 计价、量化、缓存、批处理对成本的影响
加分
- 做过蒸馏：把大模型能力迁到小模型，能量化掉点
- 懂模型压缩与端侧部署
- 能自己搭训练环境跑通一个 7B 的 LoRA 微调闭环
- 熟悉数据合成：用大模型生成训练数据并做质量控制
🛡️ 技术面重点
- 「效果不达标，你的动作顺序是什么？」——最核心的一题。合理顺序是：先建评测集 → 分析 bad case 类型 → 提示与上下文优化 → 补检索 → 再考虑微调。上来就说「微调一下」通常会被追问成本与风险。
- 「什么知识该微调，什么该放检索？」——考边界判断：稳定的表达方式与格式偏好适合进权重；频繁变动的业务知识放检索。微调不擅长记事实，也难更新。
- 「怎么选模型？」——考实测意识：不能只看榜单，要用自己的评测集跑；同时看延迟、成本、上下文长度、许可、以及工具调用稳定性。
- 「微调后通用能力掉了怎么办？」——考灾难性遗忘：混入通用数据、降低学习率、用 LoRA 而非全参、控制训练轮数。
- 「怎么判断模型是真的变好了？」——考评测严谨性：固定评测集、固定解码参数、重复多次、做显著性分析，并说明评测集有没有被训练数据污染。
- 「预算有限怎么排优先级？」——考成本意识：先做收益/成本比高的（提示与检索），微调放最后。
⚖️ 业务场景：选型与权衡
| 问题 | 首选方案 | 权衡 |
|---|---|---|
| 回答风格 / 格式不对 | 提示优化 + few-shot | 当天可改、零训练成本；受上下文长度限制 |
| 缺少业务知识 | RAG | 可溯源、可更新；跨文档推理弱、受检索质量制约 |
| 术语与表达高度专业 | LoRA 微调 | 效果好且稳定；需数据与评测，知识更新要重训 |
| 延迟/成本必须降 | 蒸馏或换小模型 + 提示适配 | 节省显著；长尾能力会掉，需重新评测 |
| 输出必须严格结构化 | 约束解码 + 校验 | 稳定可测；复杂结构要先拆解 |
| 数据不能出域 | 开源自部署 | 合规；需自备算力与运维 |
🚧 故障排查
- 换了新模型后效果反而变差：提示词对新模型不适配（不同模型对角色设定与格式敏感度不同），要重新调提示并重跑评测
- 微调后回答变模板化：训练数据表达单一或轮数过多；补多样性并提前停止
- 检索召回了但答错：上下文里证据被淹没、片段顺序不利、缺乏引用要求；调整拼装顺序并强制引用
- 同一问题两次答案差别很大：温度过高、缺少确定性约束；关键场景降温度并加校验
- 上线后指标比离线差：评测集与真实分布不一致（最常见的坑），需要补真实 bad case 进评测集
💵 成本优化
- 按收益/成本排序做优化：提示与缓存 → 检索优化 → 路由分流 → 量化 → 蒸馏
- 模型分级：把简单流量导到小模型，整体成本常能减半
- 数据侧省钱：微调数据用合成 + 人工精修的结合，比全人工便宜得多
- 评测省钱：日常用小冒烟集，版本发布才跑全量
- 算总账：把训练成本摊到调用量上，避免「省了推理费、赔了训练费」
♾️ 项目经历怎么讲
这个岗位面试官最想听的是「你怎么做决定」。建议按决策树讲：
- 目标指标是什么，怎么度量的
- 试过哪些手段，各自的收益与成本分别是多少
- 为什么最终选了这个组合（例如：提示 + 检索解决了 80% 的问题，剩下 20% 用 LoRA 补）
- 上线后的真实数据与副作用
能说清「我试过微调但效果不如检索增强，所以我放弃了微调」比堆一堆训练名词可信得多——会取舍才是这个岗位的核心能力。
