1.负责大模型推理引擎的架构设计、核心模块研发及整体性能调优； 2.开展编译、通信和图优化计算等技术优化，解决并发及高模型推理中的瓶颈问题； 3.设计并实现多维度并行化推理方案，结合内存、任务调度与 KV Cache 管理，提升系统整体吞吐量与稳定性； 4.与业务、算法及产品团队紧密合作，参与需求评审与系统联合优化，确保技术方案满足实际业务场景； 5.跟踪国内外大模型推理技术动态，评估并引入具有前瞻性的优化方案，持续提升产品竞争力。

1.大学本科及以上学历，并取得相应学位，计算机及相关专业，具备扎实的计算机基础知识； 2.具备 8 年及以上工作经验，熟练使用 C/C++ 和 Python 语言，具备扎实的软件开发和设计经验； 3.深入理解 Transformer 架构，熟悉多种多模态及通用 AI 模型，掌握至少一种机器学习推理框架（如 TensorRT、ONNXRuntime、vLLM、SGLang、TensorRT-LLM 或其他推理框架）； 4.具备机器学习模型、异构并行计算、分布式存储、高性能网络或云计算中至少一项的知识和开发经验； 5.熟悉性能建模、性能分析与优化，或有 GPU/CPU 相关调优经验； 6.诚实守信、作风踏实严谨、责任心强，具备良好团队协作能力精神，学习能力强，善于解决复杂问题。