1.负责优化文本大模型的推理效率，模型部署上线，优化资源调度效率； 2.负责文本大语言模型量化和加速推理算子开发/优化； 3.探索和应用最新大语言模型推理前沿技术； 特别说明：文本大模型推理优化方向

1.拥有计算机科学、应用数学或先关领域的硕士或博士学位优先 2.熟悉lmdeploy、vllm、TensorRT-LLM、Megatron、DeepSpeed等中的至少一种加速框架； 3.了解GPTQ、AWQ、Asymmetric Quantization、MoQ、OPQ等中的至少一种； 4.了解并行计算、CUDA、网络通信、系统优化等HPC相关知识，有AI分布式系统研发经验