岗位职责: 针对教育场景实时性需求(如智能答题、个性化辅导),优化大模型推理流程,实现模型量化、剪枝、分布式部署. 开发教育专用推理引擎,支持边缘设备(如 jetson)和云端的高效运行,降低延迟和成本. 研究稀疏推理、异构计算(cpu+gpu+npu)在教育中的应用,提升资源利用率.

任职要求: 硕士及以上学历,计算机 / 电子工程专业, 3 年以上大模型推理优化经验,熟悉 tensorrt/triton 等框架. 掌握量化(fp16/int8)、动态 batch 等技术,有教育模型轻量化案例优先. 了解教育数据隐私保护法规(如 ferpa),能设计安全推理方案.