多智能体 Handoff 中的身份混淆低权限 Agent 借合法委派消息冒名 system,骗过执行器越权调用高权限工具

核心结论:在多智能体(AI 特工队)架构里,一个本应低权限的 Agent,可以利用框架本身合法的 Handoff(任务转移 / 委派)通道,在消息正文中冒充 system 等高权限身份,请求调用 vault.read 这类高权限工具;如果执行器只认 "消息自称是谁"、而不校验委派者的真实身份和授权范围,就会把这次请求当成合法委派执行,读出本不该暴露的私有金丝雀数据。问题的根子不在模型单独使用时的安全水平,而在于 Agent 之间传递的只是一段文本,身份、权限、来源这些关键信息缺少密码学级别的强约束;一旦任务被委派给更弱的子代理,系统整体安全水平会向最弱的那个 Agent 靠拢。修复方向是把每一次 Handoff 都当成新的信任边界:消息带来源签名和权限标签、工具按最小权限和逐次授权放行、其他 Agent 回传内容一律按不可信数据降权处理。

一、基础概念:Handoff 在多智能体系统里是什么

概念说明
编排者(Orchestrator)理解主任务、拆分步骤、调度子代理的主控 Agent
执行 / 子代理(Worker/Sub-agent)接收委派任务、查询数据、调用工具并回传结果的专项 Agent
Handoff(任务转移)框架提供的合法委派机制:一个 Agent 把任务和上下文交接给另一个更合适的专项 Agent,由后者继续执行
高权限工具读取密钥库、私有文件、执行命令、对外发送等需要严格授权才能调用的工具
身份混淆调用方在文本中自称某身份,但系统无法独立核验其真实身份与权限,导致身份被冒充

以 OpenAI Agents SDK 这类框架为例,Handoff 本身以工具形式暴露给模型:当模型判断任务更适合另一个专项智能体时,调用转移工具切换活跃智能体,接收方拿到上下文继续处理。也就是说,委派通道是框架原生设计,不是攻击者自己搭建的后门。

二、攻击是怎样骗过一台高权限执行器的

1. 实验设定(纯本地、可重复)

公开实战实验搭建了本地多智能体环境,包含:

  • 低权限 research-agent:只能做资料检索,没有读取私有密钥库的资格。
  • 高权限执行器:持有 vault.read 等高权限工具,按收到的消息执行读取动作。
  • 私有金丝雀:存放在高权限区域、用于验证是否发生越权读取的敏感记录。

2. 攻击链路拆解

  1. 走合法通道:低权限 Agent 通过正常的委派 / Handoff 消息把请求发给执行器,消息通道本身经过框架认证,看起来是一次常规协作交接。
  2. 正文冒充身份:Agent 在消息正文里自报身份为 system,用系统级口吻提出工具调用请求。
  3. 执行器误信自称:执行器没有独立核验 "发消息的到底是谁、被允许调用什么",而是依据文本里的身份声明放行。
  4. 越权读金丝雀:高权限执行器调用 vault.read,把本属于高权限区域的私有金丝雀读了出来,攻击完成。

3. 关键点:被利用的是 "合法交接",不是绕过认证

  • 消息在传输层可能是合规、已认证的;漏洞出在授权层:系统没有区分 "通道可信" 和 "调用者有权"。
  • 攻击者不需要拿到高权限账号,只需要让消息内容看起来像一条受信任的委派即可。
  • 真正生效的高权限工具,是被低权限意图借合法副手身份 "代用" 出去的。

三、根因:为什么多智能体之间会出现身份混淆

1. Agent 之间只传文本,没有来源强约束

  • 委派消息、回传结果、夹带的指令,在模型看来都是 "一段文本"。
  • 模型区分系统指令、工具输出、同伴成果、被注入内容,主要靠上下文里自觉遵守的格式标记和措辞,缺少密码学签名、不可篡改的来源标签这类硬边界。
  • 结果就是:只要外部内容在文本里写得像 "官方委派",编排者或执行器就可能把它当真委派执行。

2. 委托把验证机会一起交了出去

  • 多智能体为了控制成本,常把子任务交给更便宜、更弱的模型处理。
  • 学术实验显示:强编排者自己直接读取文件库时,能在 180/180 次中识别出伪造记录;同一任务委派给较弱子代理后,主流编码智能体出现错误采纳的比例明显上升(实验中 Claude Code 75/180、Codex 44/180 等),后续聚合器还会把子代理的错误结果原样继承(751/757 次)。
  • 委派降低了工具调用轮次和交叉核验机会,被削弱的不是模型能力本身,而是 "有没有去核实" 这一步。

3. 宽权限放大了单次误信的后果

  • 智能体被授予 OAuth 令牌、API Key、仓库凭证、命令执行能力等宽权限时,任何一条被处理的输入通道都可能变成攻击入口。
  • 攻击者不需要破解认证机制,只需要让被污染的内容进入 Agent 上下文,再借用副手身份执行;这属于经典 "困惑副手"(Confused Deputy)问题在 AI Agent 场景的重现。

四、相关攻击变体与同类风险

变体机制风险落点
委派方伪造(Spoofed Delegation)把内容伪装成上级 Agent 的指令注入编排者上下文编排者把脏指令当合法委派执行
跨上下文注入一个 Agent 输出被污染后,顺着消息流扩散到编排者和后续所有 Agent链式传播,每个环节都以为是同伴的正当结果
工具调用者混淆(Tool-Caller Confusion)多 Agent 共享工具时,低权限请求在工具层被洗白成高权限编排者发起工具只认 "谁调用了",不认 "该不该有资格调"
委派即传播向量委派机制天然携带上下文,上游被污染后沿委派链向下放大单次注入跨多个凭证集合横向扩散

同类公开案例佐证:

  • Zenity 披露的 GhostJacking / Phantom Guest:攻击者伪造安全事件通知诱导 Agent 跟进链接;或伪造与官方企业 Agent 同名的假身份,诱使其他 Agent 与其交互,进而越权和窃取数据。
  • CSA 记录的 Cline 事件:GitHub issue 标题中的提示注入被编码 Agent 当成指令执行,安装攻击者控制的包,污染 CI 缓存,最终导致发布令牌外泄、未授权版本约 4000 次下载;本质是代理被借去行使了从未被授权的第三方智能体权限。

五、可落地的防御措施清单

1. 身份与来源层

  • 为每条委派 / 回传消息附加不可篡改的来源标签:带签名的 AgentID、角色、允许调用的工具范围。
  • 系统指令和高权限请求只认 "带正确签名和授权的来源",不认消息正文里的自称身份。
  • 其他 Agent 回传的结果一律按不可信外部数据降权处理,禁止其直接发指令、直接调工具。

2. 权限与工具层

  • 拒绝默认(deny-by-default),配合任务级工具白名单,只给当前任务真正需要的工具。
  • 逐次调用授权而非连接级授权:高风险工具(读密钥库、写文件、出网、执行命令)独立隔离,关键动作走人工审批。
  • 凭证代理模式:Agent 不持有直接凭证,使用短时效、可即时吊销、按范围限定的令牌。

3. 校验与审计层

  • 设置独立的核验者(verifier):调用高权限工具前回溯原始来源并引用证据;实验显示提供原始材料后,聚合环节的错误可降到零,仅保持怀疑性校验也有明显拦截效果。
  • 对 Agent 关键动作留日志、做轨迹监控,把被调用的敏感数据与后续行为关联审计。
  • 多 Agent 网络路径做微分段,一个子代理被攻陷时限制横向扩散范围。

4. 架构原则

  • 把每一次 Agent-to-Agent Handoff 视为新的信任边界,信任不随交接自动继承。
  • 系统安全水平以最弱 Agent 的健壮性为准评估,而不是只看编排模型有多强。
  • 共享记忆、向量库、对话记录同样是攻击面,需要分级隔离、可清理并定期审计。

六、后续需要持续观察的方向

  1. 框架层面是否把消息签名、来源元数据和逐次授权做成默认强制能力,而不是可选配置。
  2. 跨 Agent 委派中的凭证交换、身份协议能否形成可核验的标准规范。
  3. 机器速度下的异常行为检测:如何区分 "正常高频工具调用" 和 "被操纵的横向扩散"。
  4. 提示注入与身份混淆叠加后,在真实企业工作流(工单、审批、代码仓库)中的实际暴露规模。

【相关 FAQ】

问题 1:这次被讨论的 "合法 Handoff 冒名顶替" 具体是怎么发生的?

回答 1:发生在多智能体系统的委派环节:低权限 Agent 走框架本身合法的 Handoff 交接通道,在消息正文里冒充 system 等高权限身份发起请求;高权限执行器没有核验委派者的真实身份和授权范围,只按文本自称身份放行,结果把 vault.read 这类高权限工具交给低权限意图使用,读出了私有金丝雀。通道是合法的,被滥用的是交接中的身份与授权判断。

问题 2:为什么一个通过认证的 Agent 消息,在多智能体系统里仍可能被冒充或误信?

回答 2:因为 Agent 之间传递的主要是文本,身份、权限、来源缺少密码学级别的强约束;模型区分系统指令、同伴结果和注入内容只能依赖自觉遵守的格式标记。一旦外部内容在文本中写得像受信任委派,执行器就可能误信。认证解决的是 "通道是否可达",并不自动解决 "调用者有没有资格使用高权限工具"。

问题 3:实验里低权限 research-agent 是怎样调用到高权限 vault.read 工具的?

回答 3:实验在纯本地环境复现:低权限 research-agent 通过正常委派消息联系高权限执行器,在正文中自报 system 身份并请求 vault.read;执行器未做来源与授权校验,按冒充身份执行了读取,使私有金丝雀被低权限路径获取。整链不依赖漏洞绕过,而是利用了合法副手身份被借用的授权缺口。

问题 4:这类身份混淆攻击和提示注入、困惑副手(Confused Deputy)是什么关系?

回答 4:三者经常叠加出现。提示注入负责把脏指令送进 Agent 上下文;身份混淆负责让脏指令看起来像合法委派;困惑副手则是指持有宽权限的可信代理被操纵,用自己的合法权限去服务攻击者目标。多智能体场景下,委派通道还会把污染向下游 Agent 传播,形成链式放大,这也是它比单 Agent 提示注入更难处置的原因。

问题 5:防御 Handoff 身份混淆、保护高权限工具,有哪些可落地的措施?

回答 5:包括:给委派消息附带来源签名和权限标签,只认签名不认自称;其他 Agent 回传内容按不可信数据降权;工具走 deny-by-default 白名单和逐次授权,高风险动作人工审批;用短时效可吊销令牌代理直接凭证;独立核验者回溯原始证据;关键动作留审计日志并做网络微分段。核心原则是把每次 Handoff 当成新的信任边界,信任不自动继承。

【参考资料】

  • [2026-11](Only as Safe as the Weakest Agent: A Break That Appears Only When the System Is Multi-Agent)arXiv(NeurIPS 2026 Meta-Agents Workshop 收录)
  • [2026-11-03](Confused Deputy Attacks on Autonomous AI Agents – Lab Space)Cloud Security Alliance
  • [2026-10-21](从 "聊天" 到 "动手":Agentic AI 安全威胁深度研究)奇安信攻防社区・夙音
  • [2026-08-29](AI Agent 工具调用的信任边界:从 MCP 攻击面到 "Agent 信任链" 模型)FreeBuf
  • [2026-08-25](多智能体委派身份混淆实战:已认证 Handoff 如何越权调用高权限工具)奇安信攻防社区・小杉泽
  • [2026-08-11](Zenity Reveals GhostJacking and Phantom Guest Attacks on AI Agents)ATLABYTE·Dark Reading
  • [2026-08-20](什么是 OpenAI Agents SDK:Handoff 任务转移机制说明)腾讯云开发者社区

【免责声明】

本文内容综合自安全社区实战复盘、公开学术预印本、行业组织研究报告及框架文档,仅作 AI 智能体安全技术科普与风险梳理参考,不构成渗透测试授权、系统加固承诺或投资建议。文中实验场景、失败比例与案例细节均来自公开披露环境,实际系统的攻击面、影响范围和处置效果需结合具体架构、权限配置和版本实测评估;相关攻击技术描述仅用于防御目的,请勿用于未经授权的系统测试。涉及生产环境 Agent 部署与高权限工具治理,请以企业安全团队和合规要求为准。

本文来自作者[微波推送]投稿,不代表岳鹿科技网立场,如若转载,请注明出处:https://www.newsyuelu.com/kjyw/202611/936.html

赞 (0)
反馈

发表回复

本站作者后才能评论

评论列表(4条)

  • 微波推送
    微波推送 2026年11月17日

    我是岳鹿科技网的签约作者“微波推送”!

  • 微波推送
    微波推送 2026年11月17日

    希望本篇文章《多智能体 Handoff 中的身份混淆低权限 Agent 借合法委派消息冒名 system,骗过执行器越权调用高权限工具》能对你有所帮助!

  • 微波推送
    微波推送 2026年11月17日

    本站[岳鹿科技网]内容主要涵盖:互联网行业的追踪与探索

  • 微波推送
    微波推送 2026年11月17日

    本文概览:核心结论:在多智能体(AI 特工队)架构里,一个本应低权限的 Agent,可以利用框架本身合法的 Handoff(任务转移 委派)通道,在消息正文中冒充 system 等高权限身份,请求调用 vault.read 这类高权限工具;如果执行器只认 "消息自称是谁 "、而不校验委派者的真实身份和授权范围,就会把这次请求当成合法委派执行,读出本不该暴露的私有金丝雀数据。问题的根子不在模型单独使用时的安全水平,而在于 Agent 之间传递的只是一段文本,身份、权限、来源这些关键信息缺少密码学级别的强约束;一旦任务被委派给更弱的子代理,系统整体安全水平会向最弱的那个 Agent 靠拢。修复方向是把每一次 Handoff 都当成新的信任边界:消息带来源签名和权限标签、工具按最小权限和逐次授权放行、其他 Agent 回传内容一律按不可信数据降权处理。

联系我们

联系:143 0457 151

工作时间:周一至周五,9:30-18:30,节假日休息

关注我们