ai-infra基础架构-实习生

职位描述

核心职责 1. 参与核心研发,负责推理引擎与深度学习训练和推理框架的设计、研发及迭代,支撑AI算法高效落地与规模化 应用。 2. 主导算子优化(融合/自定义开发)、模型量化/剪枝等技术落地,攻克部署性能瓶颈;完成推理框架在 NPU/GPU/CPU多平台的适配,保障跨平台稳定性与高效性。 3. 跟踪前沿技术,持续优化推理引擎的性能、内存占用及易用性,推动技术架构升级。

职位要求

职位要求 任职要求 1. 精通计算机体系结构、编译原理等知识;熟练掌握C++/Pythorn,能编写高性能代码。 2. 深入理解CUDA编程;熟练运用MNN/RKNN/TensorRT等推理框架;熟悉TensorFlow/PyTorch/ONNX底层原理及 模型转换。 3. 具备Megatron、DeepSpeed、vLLM或SgLang开发经验。 4. 有算子开发优化实战经验,可独立实现高性能算子;掌握模型性能分析工具,具备量化、剪枝等技术落地能 力。 加分项 熟悉CNN/Transformer等模型结构与推理特性。 有AI算法在边缘端NPU/云端大模型的工业级部署经验。 有相关开源项目贡献。