About this role
Summary: Responsible for developing NPU/GPU backend engines and ensuring AI chip compatibility for AI inference frameworks. Focuses on performance optimization, resource scheduling, and parallel inference development.
1、负责AI推理框架的NPU/GPU后端引擎研发及AI芯片兼容适配工作;
2、负责AI推理框架性能优化、任务资源调度和并行推理等研发工作。
1、计算机相关专业本科及以上学历;
2、精通C++/Python及CUDA,OpenCL;
3、熟悉至少一种主流大模型推理框架,有框架开发或性能调优经验;
4、熟悉主流AI框架内部机制;
5、掌握计算图技术;
6、具有NPU/GPU软件栈开发经验者优先;
7、具有修改/调试框架底层经验者优先;
8、具备良好的沟通及协作能力。
