职位描述 我们正在寻找一位经验丰富的高级Go工程师，负责开发和维护推理模组系统。这是一个高性能的模型推理平台，支持多种推理引擎，实现云边统一部署和动态扩缩容。 岗位职责 一、核心开发 1、设计和实现高性能的Go网关层，处理RESTful API请求和gRPC内部通信 2、开发服务发现、负载均衡、请求路由等核心功能 3、实现配置缓存机制，优化配置查询性能 4、支持流式响应处理，兼容OpenAI API格式 二、架构设计 1、参与系统架构设计，优化Go+Python混合架构= 2、设计网关与后端适配器之间的通信协议 3、实现模型生命周期管理（懒加载、自动卸载、预加载） 4、设计和实现云边统一部署架构 三、K8s集成 1、开发K8s Operator或Controller，实现模型服务的自动化部署 2、实现HPA（水平自动扩缩容）和VPA（垂直自动扩缩容）策略 3、设计服务健康检查和监控机制 4、实现配置变更时的自动更新和重新部署 四、性能优化 1、优化网关层的请求处理性能，降低延迟 2实现连接池、请求复用等优化策略 3、设计和实现性能监控和指标收集 4、进行性能测试和调优

任职要求 一、基础要求 5年以上Go语言开发经验，精通Go语言特性和最佳实践 3年以上云原生开发经验，深入理解Kubernetes架构和原理 计算机相关专业本科及以上学历 二、技术技能 Go语言 ：精通Go语言并发编程、内存管理、性能优化 gRPC ：熟练使用gRPC进行服务间通信，了解Protobuf Kubernetes ：深入理解K8s架构，有Operator/Controller开发经验 微服务 ：熟悉微服务架构设计，有服务发现、负载均衡经验 API设计 ：熟悉RESTful API设计原则，了解OpenAI API格式 流式处理 ：有SSE（Server-Sent Events）或gRPC Streaming开发经验 缓存 ：熟悉Redis等缓存系统，有缓存设计经验 监控 ：熟悉Prometheus、Grafana等监控工具 容器化 ：熟练使用Docker，有容器编排经验 三、加分项 有AI/ML推理系统开发经验 熟悉vLLM、Dynamo、SGLang等推理引擎 有云边协同开发经验 熟悉Python，能够与Python团队协作 有高并发、低延迟系统开发经验 熟悉Service Mesh（如Istio） 有开源项目贡献经验 四、软技能 良好的沟通能力，能够与跨团队协作 强烈的技术热情和学习能力 良好的问题分析和解决能力 能够独立负责模块的设计和开发 有技术文档编写能力 五、技术栈 1、核心技术 语言 ：Go（主要）、Python（协作） 框架 ：gRPC、Gin/Echo 容器 ：Docker、Kubernetes 存储 ：Redis、etcd 监控 ：Prometheus、Grafana CI/CD ：GitHub Actions、ArgoCD 2、开发工具 IDE ：VS Code、GoLand 版本控制 ：Git API测试 ：Postman、cURL 性能测试 ：Apache Bench、wrk