工作职责 1. 推理全链路架构规划：负责大模型推理引擎的整体架构设计及开发，制定技术路线图，支撑千卡/万卡级AI算力集群。 2. 推理引擎构建：负责推理引擎架构演进，深入研究Continuous Batching、量化推理、投机解码、PD分离、KVCache等核心技术，打造极致低延迟、高并发的推理方案。有大模型训练经验优先，有RLHF、GRPO、DAPO等强化学习经验优先。 3. 软硬协同与稳定性：与芯片、算子、集群调度、KV Cache、可观测及平台产品团队协作，完成昇腾等国产硬件的适配与性能调优，主导建设推理全链路的稳定性与SLA保障体系，推动推理能力产品化和规模化落地。 4. 技术前瞻与团队管理：跟踪AI系统领域前沿技术，主导关键技术决策与难点攻关，指导与培养团队成员。

工作要求 1.本科及以上学历，并取得相应学位，计算机及相关专业优先。 2.8年及以上工作经验，其中至少5年以上高性能计算、分布式系统或机器学习系统研发经验。 3.精通Python/C++/Go 一种或多种编程语言，精通vLLM/SGLang/TensorRT-LLM等推理引擎内核实现，对KV Cache、Paged Attention、Prefix Caching、PD 分离、投机解码等关键技术有深度实战经验。 4.精通CUDA编程，熟悉NCCL/RDMA高性能网络、XLA/MLIR编译优化。 5.有从0到1搭建大规模推理系统的经验，能带领团队完成复杂技术攻关，具备跨团队协同能力。有顶会论文或高影响力开源贡献者优先。 6.加分项：熟悉昇腾910B/910C及华为CANN异构计算栈，有RLHF、GRPO、DAPO全流程训练系统的工程落地经验，有大规模在线推理服务（日请求千万级）的架构与运维经验。 7.具备卓越的战略思维与执行能力，有较强的组织领导、沟通和协调能力；具有良好的敬业精神和职业道德操守，企业忠诚度高，并有丰富的团队建设与管理经验。