1. 负责语言大模型、多模态大模型在云端和终端的工程优化和落地部署，通过量化、压缩、蒸馏等技术，提高模型推理性能，降低模型部署成本； 2. 在多种计算平台（如GPU，TPU等）上进行分布式部署和优化不同参数尺寸的大模型，重点解决性能瓶颈，包括但不限于计算时间、显存占用量、计算功耗等； 3. 探索和实施常见推理加速技术，包括网络架构、基本算子、模型推理框架等，跟踪最新的研究成果和技术趋势，将业界的推理加速成果应用于生产环境；

1、硕士及以上学历，拥有3年以上相关工作经验。 2、熟练使用C/C++/Python等编程语言，具备良好的编程基础，熟悉多核多线程开发。 3、熟悉常见的深度学习训练和推理框架，了解主流框架的底层实现原理。 4、熟悉常用的深度学习模型推理加速方法，包括量化、压缩、剪枝等优化技术。 5、了解ONNX、OpenVino、TensorRT、NCNN等推理或加速框架者优先考虑。 6、具备自我驱动力、创新能力、团队协作能力、沟通能力和抗压能力。 加分项： 1、有CUDA编程经验，能够在CUDA层面进行优化设计与实现。 2、对TensorFlow、PyTorch等常用算子的底层实现有优化经验。 3、拥有大模型云端及边缘端推理加速优化项目经验。