AI 应用开发工程师

先用一两个案例立住实践深度（场景、方案、量化效果），再展示判断框架：适合的特征——输出有弹性容忍度（文案、摘要）、任务可被清晰描述与评测、错误成本可控或有兜底；不适合的特征——要求确定性精确（金额计算、库存）、超长程严格推理、无评测手段闭环。再谈成本视角（token 费用 vs 人工/规则方案）。这题区分「会调 API」与「会做产品决策」，后者是 AI 应用工程师的核心溢价。

有效技巧：角色与任务边界明确、少样本示例（比抽象描述更有效）、结构化输出约束（JSON Schema/函数调用）、思维链引导复杂任务、把长指令关键约束放开头结尾（注意力分布）。科学迭代：建评测集（输入+期望要点）→基线→单变量修改对比→通过率回归，prompt 变更像代码一样走 review 与版本管理。反模式：凭单次手感改 prompt、没有评测集就上线、把所有规则堆进一个巨型 prompt。

分层容错：客户端侧超时与重试（指数退避+抖动，只重试幂等请求）、并发限流（令牌桶保护下游配额）、断路器防雪崩；多供应商路由（主备模型切换，故障时降级到更快的小模型）；请求侧降级（同步功能改异步任务/排队，非核心功能直接隐藏）；缓存兜底（相似问题语义缓存）。设计时先明确产品语义：哪些场景可以「慢」，哪些可以「降智」，哪些必须失败。展示你把 LLM 当不可靠外部依赖来工程化的意识。

按数据流分层优化：切分（结构感知分块、重叠窗口）、 embedding 选型（中文场景模型对比）、检索（向量+关键词混合召回、query 改写、多路召回）、重排（rerank 模型精排）、生成（上下文组织、引用约束、无证据拒答）。定位手段：建立召回评估（recall@k）与端到端评测（忠实度/相关性），先归因是检索没召回还是生成没用好，再对症下药。用指标说话的优化路径是核心得分点，只答「调调 chunk 大小」则显得单薄。

手段按层级：模型路由（简单任务用小模型，复杂才升级）、缓存（精确缓存+语义缓存的命中率设计）、prompt 瘦身（历史压缩、系统指令精简、工具描述裁剪）、输出控制（max tokens、结构化输出减少废话）、批处理（Batch API 半价类方案）。量化意识：先建立成本看板（按功能/用户/模型维度），知道钱花在哪再优化。真实案例：如通过历史摘要压缩把单次对话成本降 40%，命中率 30% 的语义缓存再降整体 20%。