**********************
智能体安全攻击和靶场技术
  • 收藏职位
  • 分享职位
40-60万 合肥 研究生 3-5年 招聘 1 人 预计佣金 59.7K 6天前发布
反馈快
职位亮点
加阿思微信15996202707,了解职位画像及进展
JD基本信息
岗位职责
1. 智能体安全攻击技术研究 跟踪国内外 AI Agent、LLM Security、Prompt Injection、Jailbreak、Tool Hijacking、RAG Poisoning、Memory Poisoning、MCP Security、多智能体攻防等方向的前沿研究,复现并转化为可评测、可回归、可产品化的安全测试能力。 2. 攻击方法库与样本库建设 建设面向智能体系统的攻击样本库和攻击方法库,覆盖单轮/多轮对话、间接提示注入、网页/文档/邮件注入、工具返回污染、长上下文隐藏指令、角色劫持、目标劫持、权限诱导、敏感数据探测等攻击类型。 3. 智能体安全靶场设计与开发 设计并实现可复用的 Agent 安全靶场,构建模拟业务系统、工具 API、MCP Server、RAG 知识库、长期记忆、文件系统、浏览器环境、代码执行环境、权限体系和审计链路,支持真实攻击链路演练与防护效果验证。 4. 自动化红队评测平台建设 构建自动化攻击生成、攻击编排、模型调用、工具调用追踪、结果判定、风险评分、报告生成和回归测试能力,降低人工红队成本,提升评测覆盖度、攻击效率和结果一致性。 5. 攻防闭环与防护验证 与防护技术团队协同,将攻击发现转化为防护需求、规则策略、训练样本、Benchmark 和回归用例,验证智能体安全网关、工具权限、记忆治理、运行时拦截、沙箱隔离等防护方案的实际效果。 6. 评测指标体系建设 建立智能体安全评测指标,包括攻击成功率、越权执行率、工具滥用率、敏感信息泄露率、目标劫持成功率、记忆污染持久性、知识库污染影响范围、多智能体传播风险、防护绕过率、误伤率和修复回归率。 7. 研究成果沉淀与对外影响力 输出攻击技术报告、风险分析报告、防御策略报告、靶场白皮书、专利、论文、竞赛方案、客户评测报告和行业标准建议,支撑安全品牌建设和商业化探索。
任职要求
1. 计算机、网络安全、人工智能、软件工程等相关专业,本科及以上学历;硕士/博士优先。 2. 熟悉大模型和智能体基本原理,理解 Agent 的规划、执行、工具调用、记忆、RAG、多轮上下文和多智能体协作机制。 3. 熟悉 AI 安全攻击方向,包括 Prompt Injection、Jailbreak、间接提示注入、后缀攻击、对抗样本、RAG 投毒、记忆投毒、数据外泄、工具调用劫持等。 4. 具备安全攻防基础,熟悉 Web/API 安全、权限绕过、身份认证、数据安全、云安全、容器安全、代码安全、供应链安全中的至少两个方向。 5. 熟练掌握 Python,能够开发自动化测试脚本、攻击编排工具、评测工具、数据处理工具和实验平台;具备后端开发、容器化、日志分析经验优先。 6. 熟悉靶场、CTF、红蓝对抗、渗透测试、漏洞复现、自动化安全测试、模糊测试或安全评测平台建设者优先。 7. 具备数据集和 Benchmark 建设能力,能够进行攻击样本设计、变体泛化、难例挖掘、标注规范制定、自动化判定和评测报告输出。 8. 具备良好的研究能力和文档表达能力,能够将前沿攻击技术转化为工程化、标准化、可复用的评测能力。
所属行业:
人工智能AI
职能分类:
算法工程师
工作城市:
合肥,招聘1人,详细地址:合肥
职位要求
学历要求:
研究生·统招·一本
工作年限:
3-5年
技能/证书:
-
薪资福利
年薪范围:
40-60万*14薪
薪资福利:
五险一金、补充商业保险
团队架构
所属部门:
-
下属人数:
-
部门架构:
-
汇报对象:
-
职级职称:
-
面试信息
面试轮次:
2轮
面试流程:
面试2-3轮
视频面试:
不可以接受
为你推荐