跳到主要内容
T4 车企/自驾蔚来实习一面

蔚来 AI Infra 实习 一面 (2)

蔚来 AI Infra 实习一面面试真题，涵盖推理优化、算子优化等方向

推理优化算子优化

编程题

  1. 手写 CUDA kernel：reduce_sum 实现
  2. 手写 CUDA kernel：conv2d 实现
  3. 手写实习中涉及的一个自定义 kernel
  4. C++ 实现循环缓冲区
  5. C++ 实现单链表的冒泡排序

推理优化

  1. 介绍实习中 CUDA 优化的整体工作
  2. 大模型推理相关内容讨论（vLLM、模型量化等）