1、大模型安全护栏建设：负责大模型输入/输出安全防护体系设计与落地 2、内容安全分类分级模型研发：建设面向 AIGC 场景的内容安全审核模型，覆盖暴恐、色情低俗、违法违规、歧视偏见等风险类型 3、负责大模型越狱攻击研究与防护、安全红队评测与 Benchmark 建设

任职要求： 1、计算机、人工智能、信息安全、数据科学、自然语言处理等相关专业，硕士及以上学历 2、具备内容安全、文本审核、风控模型、NLP 分类、多标签分类、异常检测、语义检索或大模型评测相关经验 3、熟练掌握 Python，熟悉 PyTorch、Transformers、vLLM、DeepSpeed、LLaMA-Factory、MS-Swift 等至少一种训练或推理框架。 4、熟悉大模型训练、微调和对齐流程，了解 SFT、LoRA/QLoRA、DPO/RLHF、蒸馏、模型压缩、指令微调等方法，有实际项目经验优先。