岗位职责： 参与大语言模型安全可信方面的研究工作，探索和开发提升大模型安全性和可靠性的数据、算法和方法，提升模型推理的准确性、公平性和可解释性； 1. 深入研究大模型的安全对齐问题，探索如何将人类价值融入大模型的推理过程以及如何识别和纠正模型的潜在价值偏差； 2. 对大语言模型的攻防问题进行研究，分析新兴的AI安全威胁，设计攻击型AI模型，并探究对应的防御算法。 3. 收集和处理大规模数据集，并实现相关算法，参与大模型的训练、评估和分析； 4. 负责对各个业务的大模型应用做相应的安全评估和安全加固，不断应对新型安全风险，保障业务健康发展。

任职要求： 1. 计算机科学、信息安全或相关专业背景，硕士和博士优先； 2. 具备扎实的机器学习和深度学习基础知识，熟悉常用的机器学习框架，如 PyTorch、Huggingface 等，熟悉 Python 编程语言，具备良好的数据处理和分析能力； 3. 具备大语言模型微调和强化训练的相关经验，了解 Deepspeed、Verl 等相关框架； 4. 具备良好的沟通能力和团队合作精神，学习能力强，工作积极主动。