1.研发及优化语言大模型及多模态等推理引擎、PD 分离推理调度系统； 2.支持新一代自研 AI 芯片推理引擎 / 优化，为优化模型推理性能，打造行业优势； 3.优化大模型 KV Cache 命中率，从推理框架、流量调度、多模型缓存等多个系统维度入手定制优化策略； 4.优化数据的预取策略，充分利用计算侧的高带宽，利用 NPU、RDMA 通信等降低 GPU Direct 技术实现数据的高效传输； 5.跟踪国内外大模型推理技术动态，评估并引入具有前瞻性的优化方案，持续提升产品竞争力。

1.大学本科及以上学历，并取得相应学位，计算机及相关专业优先； 2.具备 6 年及以上工作经验，熟练掌握 C/C++、Python 编程语言，具备良好的 coding 和调试能力； 3.熟悉 PyTorch/TensorRT-LLM/vLLM/SGLang 等大模型推理框架，具备 CUDA、算子优化、KV Cache、量化（INT4/INT8）、批处理、连续批处理（Continuous Batching）或分布式推理实践经验； 4.熟悉各类模型学习网络和算子底层实现细节，训练和推理模型调试、调优有实践经验优先； 5.熟悉并行策略，如模型并行、流水线并行等，了解 NVLINK、GPU 直接通信优化； 6.具备 GPU、AI 芯片体系结构知识，熟悉芯片特性，具备系统性能分析和调优经验优先； 7.诚实守信、作风踏实严谨、责任心强，具备良好团队协作能力精神，学习能力强，善于解决复杂问题。