NiceOffer

面试面经 · 百度

【百度】【AI平台后端】【面经】(模型服务+推理优化+分布式)

百度AI平台后端大模型面经综合

【百度】【AI平台后端】【面经】

基本信息

项目内容
公司百度
岗位AI 平台后端工程师
轮次综合
面型体感技术面,模型工程化+分布式
面试官风格考察系统设计
结果通过

面试题目(按提问顺序)

  1. 模型服务的架构怎么设计?
  2. 如何处理模型推理的高并发请求?
  3. KV Cache 的原理?怎么优化?
  4. 多卡推理怎么做?模型并行和数据并行的区别?
  5. 分布式训练的框架了解哪些?DeepSpeed?
  6. ZeRO 优化器的原理?Stage 1/2/3 的区别?
  7. GPU 资源怎么调度和分配?
  8. 模型版本管理怎么做?
  9. A/B 测试在模型上线中怎么实现?
  10. 如何监控模型服务的性能和效果?
  11. 场景题:设计一个文生图服务的后端架构
  12. 算法题:任务调度相关

面试感受 / 反馈

百度 AI 平台方向考察模型工程化能力,不是纯后端也不是纯算法。需要懂模型训练和部署的流程,以及大规模系统的架构能力。

准备建议

  • 模型服务和推理优化要熟悉
  • 分布式训练框架(DeepSpeed)要理解
  • GPU 调度和资源管理是重点
  • 准备 AI 系统架构设计题