企业招聘
职位
关于禾蛙
合伙人计划
联系客服快速发单
扫码添加企业微信
客服电话
400-7777-5125
猎企入驻
400-777-5125
免费注册
登录
**********************
资深产品管理专家(大模型token服务)4400
接单
收藏职位
分享职位
100-200万
北京、上...
本科
8-10年
招聘 4 人
预计佣金
259.8K
3天前发布
反馈快
72小时新发
JD基本信息
岗位职责
1. 负责token服务平台推理引擎核心产品战略规划与设计,聚焦LLM推理、加速优化、算力调度核心链路,定义产品定位、目标客户、商业模式、产品架构和演进路线,打造业界领先的大模型推理服务产品体系。 2. 负责推理服务核心能力建设,负责批量推理、KV Cache缓存优化、动态批处理、推理限流熔断、多模型智能路由等功能的规划与落地。 3. 深度梳理推理链路核心痛点,制定推理时延、接口吞吐量、算力利用率的优化目标与策略,主导异构算力适配、推理资源弹性扩缩容、算力分级分级等解决方案的设计与落地,推动成本与效能的持续改进。 4. 负责token服务产品商业化体系的全盘规划与持续迭代,制定具有行业竞争力的百万Token定价策略、TPM预留/独占资源定价体系、按量/包月/竞价等多维度计费模型,持续提升推理服务收入规模与市场渗透率。 5. 建设 Token 经营指标体系,持续分析 token 产量、调用量、收入、成本、毛利、客户留存和模型使用效率。 6. 搭建完善的推理运维体系,包含全链路监控告警、性能评测、故障排查能力,沉淀标准化产品能力,持续推进推理引擎降本增效与稳定性迭代升级。
任职要求
1. 本科及以上学历,并取得相应学位,计算机及相关专业优先。 2. 8年及以上工作经验,其中至少3年及以上AI平台、云服务、MaaS平台产品经验,深耕大模型推理引擎方向,有相关核心模块产品设计实战经验。 3. 精通LLM基础推理原理、Token机制、流式交互逻辑,熟练掌握推理加速、缓存优化、算力调度等核心技术逻辑。 4. 熟悉分布式架构与高并发推理场景,可独立完成产品方案、PRD、架构文档输出,具备复杂场景需求拆解与落地能力。 5. 具备优秀的跨团队协同推进能力,可联动研发、算法团队解决推理性能、资源瓶颈等核心问题。 6. 加分项:拥有多技术团队协同,推理引擎平台从0到1搭建经验。 7.具备卓越的战略思维与执行能力,有较强的组织领导、沟通和协调能力;具有良好的敬业精神和职业道德操守,企业忠诚度高,并有丰富的团队建设与管理经验。
所属行业:
通信/网络设备
职能分类:
产品经理
工作城市:
北京,招聘1人,详细地址:北京研发中心工作地址:北京市海淀区学院路42号中国电信博物馆
上海,招聘1人,详细地址:上海研发中心工作地址:上海市浦东新区秀沿西路189号中国电信信息园区25号楼
广州,招聘1人,详细地址:广州研发中心工作地址: 广报中心:广州市海珠区阅江西路366号广报中心南塔(1号楼)19楼
深圳,招聘1人,详细地址:深圳研发中心工作地址:深圳市福田区信息枢纽大厦3楼
职位要求
学历要求:
本科
工作年限:
8-10年
技能/证书:
-
薪资福利
年薪范围:
100-200万*15薪
薪资福利:
-
团队架构
所属部门:
-
下属人数:
-
部门架构:
-
汇报对象:
-
职级职称:
-
面试信息
面试轮次:
-
面试流程:
-
视频面试:
不可以接受
举报
为你推荐
职能类别
IT互联网技术
电子/通信/半导体
销售/客服
制药/医疗器械/医疗护理
高级管理
关于
禾蛙动态
合伙人计划
猎企入驻
帮助中心
禾蛙协议
禾蛙海外版
联系我们
电话:400-777-5125(服务时间:工作日9:00至18:00)
网址:www.hewa.cn
地址:中国(上海)自由贸易试验区滨江大道99弄6号第11层
服务支持
接单方小程序
发单方小程序
微信公众号
©版权所有
上海禾蛙科技有限公司
沪公网安备31011502406070号
备案号:沪ICP备2026021218号-7
|
营业执照
|
服务许可证