工作职责 1. 负责AI网关核心数据面的设计和研发； 2. 负责AI网关核心业务能力的设计和研发； 3. 负责AI网关的性能和稳定性优化； 4. 负责云原生以及kubernetes的基础设施能力提升，包括云原生环境下AI网关的自动化部署、灰度、升级能力研发； 5. 负责OpenAI Compatable、Anthropic等主流大模型API的协议适配，以及其他主流多模态模型适配； 6. 负责模型路由、供应商路由、SLA调度研发； 7. 负责AI网关生产问题和稳定性建设通过日志、metrics、pprof等手段快速定位性能和故障问题；

工作要求 1. 大学本科及以上学历，并取得相应学位，理工科专业； 2. 8年及以上高性能网关、服务治理、云原生基础设施或者云计算研发经验； 3. 深入理解linux网络以及TCP/IP，熟悉HTTP/1.1、HTTP2.0、TLS、SSE、Websocket7层传输协议；熟悉Envoy/Istio/Higress 至少一个核心项目，具备源码阅读和问题定位能力； 4. 熟悉Kubernetes的整体架构和扩展机制，包括CRI、CNI、CSI、CRD核心机制； 5. 精通Golang/C++/Java之一，具备大型分布式、微服务的架构设计的经验； 6. 具备高并发、低时延、高可用系统的设计能力； 7. 熟悉大模型原理，具备大模型推理优化经验优先；