**********************
智能体安全防护
  • 收藏职位
  • 分享职位
40-60万 合肥 研究生 3-5年 招聘 1 人 预计佣金 59.7K 6天前发布
反馈快
职位亮点
加阿思微信15996202707,了解职位画像及进展
JD基本信息
岗位职责
1. 智能体安全防护架构设计: 负责智能体应用的安全威胁建模与防护方案设计,覆盖 Planner、Executor、Memory、RAG、Tool、MCP Server、Plugin、多智能体通信、外部 API、文件系统、数据库、浏览器、代码执行环境等关键组件。 2. Prompt Injection 与指令链防护: 设计并落地直接/间接提示注入、系统提示词泄露、角色劫持、目标劫持、多轮诱导、上下文污染、网页/文档/邮件注入等攻击的检测与拦截机制,保障智能体任务目标不被恶意指令篡改。 3. 工具调用与 MCP 安全防护: 建设工具注册、权限分级、调用前风险评分、参数校验、敏感操作确认、工具返回内容检测、越权调用拦截、工具链路审计等能力,防止工具滥用、权限提升、数据外泄和危险动作执行。 4. 运行时风险检测与动态干预: 构建智能体运行时安全观测与干预机制,对任务规划、工具选择、参数生成、执行结果、链路跳转和最终回复进行实时检测,支持策略拦截、降级执行、人类确认、沙箱隔离、任务回滚和安全重试。 5. 智能体安全审计与可观测性建设: 建设 Agent Trace 安全日志、调用链审计、风险行为画像、异常模式检测、回放分析、责任归因和报告生成能力,为红队评测、客户交付、监管合规和现网问题闭环提供支撑。
任职要求
1. 计算机、网络安全、人工智能、软件工程、数据科学等相关专业,本科及以上学历;硕士/博士优先。 2. 熟悉大模型应用或智能体系统架构,理解 Agent 的任务规划、工具调用、记忆管理、RAG 检索、函数调用、多轮对话和外部 API 集成机制。 3. 熟悉大模型安全风险,包括 Prompt Injection、Jailbreak、间接提示注入、系统提示词泄露、敏感信息泄露、RAG/记忆投毒、工具调用劫持、过度自治等。 4. 熟悉应用安全、API 安全、权限控制、OAuth/API Key 管理、零信任、沙箱隔离、日志审计、异常检测等至少一个方向。 5. 熟练掌握 Python / Go / Java / TypeScript 中至少一种开发语言,具备良好的工程实现能力,能够独立完成服务化、平台化、可观测性和高可用设计。 6. 具备策略引擎、规则系统、风控系统、内容安全、数据安全、网关、安全审计、SIEM/SOC、RASP/WAF 等相关经验者优先。 7. 能够在安全性、用户体验、业务效率和成本之间做工程权衡,关注拦截率、误伤率、漏放率、时延、吞吐、可解释性和可运营性。 8. 具备较强的问题抽象能力和跨团队协作能力,能将复杂安全问题转化为可落地的产品能力。 P3-2及以上,合肥算法方向都可以看,NLP方向最好 加分项: 1. 有智能体平台、MCP、插件系统、RAG 平台、工作流编排平台、低代码/无代码平台安全建设经验。 2. 有大模型安全护栏、LLM Guardrails、内容安全审核、AI 风控、数据安全、隐私计算、安全网关等项目经验。 3. 熟悉 OWASP Top 10 for LLM Applications、AI Agent Security、NIST AI RMF、生成式 AI 合规、安全评测相关标准或方法论。 4. 有智能体运行时沙箱、代码执行隔离、浏览器自动化隔离、工具权限控制、敏感操作人审确认机制设计经验。 5. 有安全专利、论文、开源项目、CTF、红蓝对抗、安全竞赛或高影响安全产品建设经验。
所属行业:
人工智能AI
职能分类:
算法工程师
工作城市:
合肥,招聘1人,详细地址:合肥
职位要求
学历要求:
研究生·统招·一本
工作年限:
3-5年
技能/证书:
-
薪资福利
年薪范围:
40-60万*14薪
薪资福利:
五险一金、补充商业保险
团队架构
所属部门:
-
下属人数:
-
部门架构:
-
汇报对象:
-
职级职称:
-
面试信息
面试轮次:
2轮
面试流程:
面试2-3轮
视频面试:
不可以接受
为你推荐