【职位描述】 - 配合团队模型产品上线以及开源节奏，接入公司内部推理框架以及主流的开源框架（例如 vLLM、SGLang 等）中，负责模型精度以及推理性能。 - 深入优化系统性能，主要包括推理调度、runtime 开销优化、kernel 性能优化等，解决系统高并发、高可靠性、高可扩展性等技术难关。

【职位要求】 - 学历与计算机、机器学习等方向相关。 - 较强的代码实现能力，较强的底层优化能力，较强的 profile 能力，发现系统&模型的性能瓶颈，并且可以提出优化策略。 - 精通 Python 以及 Pytorch 等深度学习框架。 - 熟悉 Transformer 架构以及大语言模型基础知识。 - 善于平衡研究目标及落地实现，且结果导向。 - 良好的沟通和合作能力。 - 关注技术影响力，具有开源开放精神。 【加分项】 - 具有大规模 LLM 推理实战经验，具有完整的推理效率优化项目经历的优先。 - 拥有知名开源项目，在开源社区具有较好的影响力。 - 具有一定的学术影响力。