1.负责大模型推理加速，提升大模型推理速度和并发，降低服务器成本 2. 进行大模型国产服务器适配，包括国产服务器训练和推理优化 3.参与基于GPU的高性能计算（HPC）项目设计与开发，负责GPU芯片（NVIDIA/AMD等）的底层性能优化与调优。 4.熟悉vLLM、SGLang等大模型推理框架。 5.熟悉DeepSeek系列模型的工程优化技术，包括但不限于PD分离、MLA、MOE负载均衡、MTP等

1.有不错的编码能力，熟悉 Linux 开发环境，熟悉Python或C++语言。 2.对深度学习技术有较好了解，熟悉常用深度学习框架pytorch，并有实际项目应用经验。 3.熟悉大模型训练和微调算法 4.熟悉cuda编程或者华为昇腾显卡编程, 有相关经验者优先