面试面经 · 百度
【百度】【AI平台后端】【面经】(模型服务+推理优化+分布式)
【百度】【AI平台后端】【面经】
基本信息
| 项目 | 内容 |
|---|---|
| 公司 | 百度 |
| 岗位 | AI 平台后端工程师 |
| 轮次 | 综合 |
| 面型体感 | 技术面,模型工程化+分布式 |
| 面试官风格 | 考察系统设计 |
| 结果 | 通过 |
面试题目(按提问顺序)
- 模型服务的架构怎么设计?
- 如何处理模型推理的高并发请求?
- KV Cache 的原理?怎么优化?
- 多卡推理怎么做?模型并行和数据并行的区别?
- 分布式训练的框架了解哪些?DeepSpeed?
- ZeRO 优化器的原理?Stage 1/2/3 的区别?
- GPU 资源怎么调度和分配?
- 模型版本管理怎么做?
- A/B 测试在模型上线中怎么实现?
- 如何监控模型服务的性能和效果?
- 场景题:设计一个文生图服务的后端架构
- 算法题:任务调度相关
面试感受 / 反馈
百度 AI 平台方向考察模型工程化能力,不是纯后端也不是纯算法。需要懂模型训练和部署的流程,以及大规模系统的架构能力。
准备建议
- 模型服务和推理优化要熟悉
- 分布式训练框架(DeepSpeed)要理解
- GPU 调度和资源管理是重点
- 准备 AI 系统架构设计题