负责万亿/千亿参数大模型在自建或企业私有 GPU 集群上的极致推理优化。 深度改造主流推理引擎（如 vLLM, TensorRT-LLM），重写底层算子以解决特定长文本（Long Context）推理的显存墙问题。 探索并落地极致的模型量化（FP8, AWQ 等）与 KV Cache 优化技术，将硬件推理成本压缩到极致。

精通 C++ / CUDA，具备扎实的 GPU 硬件架构知识。 对大模型底层运行机制和 Attention 机制有源码级别的理解。 在底层开源社区（如 vLLM, DeepSpeed）有核心代码贡献者优先。