**********************
研发专家(训练框架、推理优化)
  • 收藏职位
  • 分享职位
50-150万 北京、上... 本科 3-5年 招聘 3 人 预计佣金 217.5K 1天前发布
反馈快 72小时新发
JD基本信息
岗位职责
智算事业部 工作职责训练框架工作职责: 1.参与AI大模型训练框架研发,支持百亿~万亿规模的稠密/MoE大模型的预训练、微调、强化学习、蒸馏; 2.通过5D并行加速、通信掩蔽、训推一体复用等技术,在国产异构算力上实现极致的大模型训练性能优化; 3.研发高效的故障定位系统和容错机制,保障大规模训练的稳定性,监控训练任务日志,快速识别和修复问题;// 推理优化工作职责 1. 重点模型的推理优化,包括量化、Pipeline优化、分布式推理优化等。 2. TeleLLM推理框架开发。 3.从事天翼云AI相关产品和平台化解决方案的后端工程化开发工作; 4负责算法接口的服务封装、模型移植、部署测试,并输出技术文档; 5.负责各AI模型推理性能分析诊断及服务性能优化;
任职要求
任职要求 1.大学本科及以上学历,并取得相应学位,计算机及相关专业优先; 2.五年及以上工作经验,其中至少三年及以上算法后端开发相关经验; 3.具有较强的编程能力,熟练 Python/C/C++/Go 一种或多种编程语言,有良好的代码习惯; 4.熟悉主流的机器学习框架和推理框架如 Pytorch 、TensorFlow、TensorRT、ONNXRuntime、 PaddlePaddle、DeepStream、VLLM、TensorRT-LLM 、Mindspore等,有实际模型工程化经验优先; 5.熟悉 Linux 操作系统,能熟练使用 Git、CMake、Docker、k8s 等工具; 6.诚实守信、作风踏实严谨、责任心强,具备良好团队协作能力精神,学习能力强,善于解决复杂问题; 7.加分项:CUDA开发优化经验、模型压缩和编译优化经验,不同平台AI芯片适配经验等。 训练框架: 1. 有扎实的工程能力和算法基础,具备大模型分布式训练性能优化经验; 2. 掌握PPO/DPO/GRPO等RLHF技术,有大模型微调、蒸馏、强化学习相关经验者优先; 3. 熟悉PyTorch/Megatron/DeepSpeed等业界主流训练框架,熟悉TensorRT-LLM/vLLM/SGLang等大模型推理引擎; 4.具备国产算力硬件实操经验者优先。
所属行业:
云计算
职能分类:
算法研究员
工作城市:
北京,招聘1人,详细地址:北京上海,招聘1人,详细地址:上海广州,招聘1人,详细地址:广州
职位要求
学历要求:
本科·统招·985/211
工作年限:
3-5年
技能/证书:
-
薪资福利
年薪范围:
50-150万*12薪
薪资福利:
-
团队架构
所属部门:
-
下属人数:
-
部门架构:
-
汇报对象:
-
职级职称:
-
面试信息
面试轮次:
-
面试流程:
-
视频面试:
不可以接受
为你推荐