**********************
端侧大模型推理工程师
  • 收藏职位
  • 分享职位
37-75万 北京 本科 0-3年 招聘 1 人 预计佣金 81.6K 1天前刷新/2天前发布
反馈快 72小时新发
JD基本信息
岗位职责
1、端侧语言模型 / 多模态模型推理部署; 2、异构硬件性能调优与内存管理; 3、推理框架、工具链、跨平台构建系统开发与优化; 4、模型量化、KV Cache 管理与端侧推理优化; 5、跟进前沿模型架构(如 Transformer 及其衍生变体、投机解码加速技术 EAGLE 系列等)的迭代演进。
任职要求
1、了解主流模型架构,包括 Transformer 系列、LLaMA、Qwen等,能分析其计算与内存特点; 2、熟悉至少一种端侧推理框架(llama.cpp / TensorRT / QNN / ONNX Runtime); 3、了解投机采样(Speculative Decoding / Sampling)等推理加速思路,能够分析其对端侧延迟、内存和工程复杂度的影响; 4、精通 C/C++/python; 5、熟悉 mmap / CMA / GPU OOM / 内存调优,能分析内存带宽与计算瓶颈并进行仿存与计算逻辑优化。 面壁智能的岗
所属行业:
人工智能/大模型/算力
职能分类:
系统工程师
工作城市:
北京,招聘1人,详细地址:北京市海淀区清华科技园科建大厦3层
职位要求
学历要求:
本科
工作年限:
0-3年
技能/证书:
-
薪资福利
年薪范围:
37-75万*15薪
薪资福利:
-
团队架构
所属部门:
-
下属人数:
-
部门架构:
-
汇报对象:
-
职级职称:
-
面试信息
面试轮次:
-
面试流程:
-
视频面试:
不可以接受
为你推荐