ARTICLE DETAIL

资讯详情

深耕网站视觉设计与运营推广的一线实战洞察。

Havenlon | 杂谈:AI 时代的执行控制层「执行权分离」

Havenlon | 杂谈:AI 时代的执行控制层「执行权分离」 AI 时代为什么需要一个独立的执行控制层过去几十年软件安全几乎都在回答同一个问题谁可以进入系统。密码、证书、IAM、零信任、权限系统、API Gateway、HSM、审批流与风控构成了一整套相当成熟的体系用来判断一个人是谁、一个程序拥有什么权限、一个请求是否符合规则。在这套体系里安全被理解为一种筛选把不该进来的挡在门外把进来的人限制在合适的范围内。这套逻辑在 AI 只负责回答问题的年代是够用的。模型输出的是文本错误的代价是一次误导、一段返工而不是一笔无法撤回的资金。但当 AI Agent 开始付款、转账、部署代码、执行运维命令、调用设备、控制机器人甚至直接管理真实资产时安全问题的重心就悄悄移动了。它不再只是它能看到什么而是谁真正拥有让一个动作发生的能力这个问题过去并不尖锐因为提出动作的人和执行动作的系统本来就是同一个。而 AI Agent 正在把它推到台前——这正是执行控制层存在的理由。一、理解执行控制只需要看一笔付款抽象的架构讨论容易失焦不如看一件具体的事一家企业通过支付宝向供应商付款。业务系统里生成了一条指令——向供应商 A 支付 100,000 元。在多数成熟企业里这条指令背后的安全措施已经相当完整。员工登录经过 MFA服务器之间使用 mTLSIAM 判断操作员确实拥有付款权限风控系统确认金额没有异常审批系统显示 CFO 已经批准甚至连企业用于付款请求的私钥都由 HSM 保护。从任何一份合规清单来看这套流程都没有明显缺口。但真正决定这个系统安全边界的是最后一个很少被单独提出的问题谁拥有生成最终付款请求所需要的密码学凭证如果这项能力仍然握在业务服务器手里那么无论前面叠加了多少层安全系统有一个事实不会改变业务系统本身拥有让钱真正出去的能力。前面所有环节都在约束它、审视它、记录它却没有一个环节能剥夺它。只要它能够取得或调用最终付款凭证它就是这条链路上真正的执行者。这就是绝大多数传统架构的真实形状。安全体系围绕着一个已经握有钥匙的主体展开所有防线的作用都是劝阻它不要乱用那把钥匙。二、执行控制层改变的其实只有一件事执行控制层没有必要重新发明 IAM也没有必要重新发明审批、风控和 Policy Engine。这些系统各自解决的问题依然成立也依然有效。它真正改变的只有一件事情把最后的密码学执行凭证从业务系统里拿出去。回到刚才那笔付款。业务系统仍然可以生成付款对象、付款金额、订单号、业务原因、审批信息与策略上下文AI Agent 仍然可以独立完成整个付款流程的规划从识别账单、匹配合同到发起请求一步不少。它唯一不能做的是完成最后一步。真正能够让支付宝接受这笔付款的商户签名能力、执行凭证或最终协议提交能力被放在一个独立的执行控制层中。于是整条链路的权力结构被重新排列业务系统提出付款意图审批系统表达授权策略系统提供约束而执行控制层决定是否释放最终执行能力。只有当所有执行条件在那一刻仍然全部成立它才生成真正能够被支付宝接受的密码学凭证并完成提交。这个改动看上去很小后果却相当彻底。当最后一把钥匙不在业务系统里攻破业务系统就不再天然等于获得付款能力。攻击者可以伪造意图、篡改参数、冒充身份但这些都只是把请求送到了裁决面前而不是把钱送出门外。执行控制层最核心的价值就在这一句话里。三、所以它和现有产品的区别其实非常简单市场上已经存在大量安全产品各自守着一段边界IAM 管身份Zero Trust 管访问Policy Engine 管规则审批系统管人的授权风控系统判断异常HSM 保护私钥MPC 与多签分散签名权API Gateway 管请求入口。它们都重要执行控制层也不打算取代其中任何一个。区别只有一个而且非常朴素那个能够让现实动作发生的密码学凭证究竟在哪里。如果最终凭证仍然掌握在业务系统、Agent、SaaS 或者它们能够直接控制的软件环境里那么整套安全体系无论多复杂本质上做的都是同一件事——约束一个已经拥有执行权的主体。这是一种基于信任的架构我们相信它不会越界相信它不会被完全控制相信规则足以劝住能力。执行控制层采用的是另一种结构。业务系统没有最终执行权它只能提出请求最终密码学凭证存在于一个独立的执行边界之中。信任不再是安全的前提而是被结构本身替代掉的东西。传统安全是在保护拥有钥匙的人执行控制是在重新决定钥匙应该由谁拿着。这就是两者最根本的差别也是理解后面所有问题的起点。四、为什么 HSM 仍然不等于执行控制层最容易产生的疑问是既然 HSM 已经能够保护私钥为什么还需要多出一层因为保护密钥和控制密钥什么时候可以代表现实执行是两个不同的问题。仍然是那笔支付宝付款。假设企业把付款私钥放进 HSM业务服务器无法导出私钥——这当然比把私钥放在服务器磁盘上安全得多密钥泄露的风险被显著压低了。但如果业务服务器拥有调用 HSM 完成签名的权限那么一旦这台服务器被完全控制攻击者就可以不断向 HSM 提交格式完全合法的签名请求。结果是一个相当反直觉的场景HSM 没有被攻破私钥没有泄露密码学过程完全正确而一笔不应该发生的付款依然被正确地签了出来。整条链路上没有任何一个组件失效失效的是组件之间的假设——HSM 默认调用者已经获得了授权而这个默认恰恰是被攻破的部分。所以问题从来不只是私钥有没有被偷走更重要的是谁有权让这把私钥在这一刻为这一笔动作工作HSM 解决的是 Key Protection执行控制层解决的是 Execution Authority。两者可以组合甚至通常应该组合但它们不是同一个东西。五、一个执行控制层至少需要什么如果把各种复杂工程实现全部拿掉一个真正的执行控制层其实只需要几个基本模块。它们之间不是并列的功能清单而是一条从想做什么走到为什么被允许的完整链路。1. Intent它到底想做什么系统首先需要一个明确的执行对象谁提出请求准备做什么作用于谁金额多少参数是什么目标对象是什么。对于支付宝付款来说就是向哪个供应商、以什么金额、因为什么业务、执行哪一笔付款。执行控制不能只看到一句模糊的允许付款。一个没有具体对象的许可在执行层面等同于无限许可。它必须知道到底允许哪一次执行。2. Authorization谁允许这件事发生第二部分是授权。它可以来自人也可以来自企业策略或者来自多个独立主体的共同治理财务系统允许CFO 批准金额没有超过额度供应商已经进入白名单付款发生在允许的时间窗口。关键不在于是否存在一个 Approved 状态而在于授权必须和那个具体执行对象绑定。批准的是供应商 A就不能拿去给供应商 B批准的是 10 万元就不能最后执行 100 万元批准的是今天的交易也不能几天以后被重新取出来使用。授权一旦可以脱离对象漂移它就不再是授权而只是一张通行证。3. Runtime Decision执行前最后一次判断真正的执行控制不是在几个小时前审批的那一刻完成的而必须发生在动作即将发生的那一刻。因为现实状态可能已经变化账户状态变了供应商账户变了策略更新了审批过期了相同交易已经执行过一次或者出现了新的风险信号。审批捕捉的是过去某个时点的判断而执行发生在现在。因此执行控制层需要在最终执行之前把 Intent、Authorization、Policy 与当前状态重新组合起来判断一次只有所有条件仍然成立才进入下一步。过去正确不代表现在仍然可以执行。这就是 Runtime Control 的意义。4. Executor真正掌握最后一把钥匙这是整个执行控制层最关键的部分。Executor 掌握最终执行能力对于支付宝付款它可能掌握最终商户签名能力对于数字资产它掌握最终交易签名能力对于服务器运维它掌握真正能够执行 SSH 命令的凭证对于工业设备它掌握最终能够发出控制信令的能力对于机器人它可能处在最终运动控制链路上。不同产业的技术实现完全不同但本质完全一样真正能够改变外部世界状态的最后能力不属于上层业务系统。Executor 才是执行权真正所在的位置其他一切模块都只是通向它的输入。5. Evidence证明刚才为什么允许执行最后还需要证据。一个高风险系统不能只告诉企业刚才执行成功了它还应该能够回答为什么允许用了哪一版策略谁授权执行对象是什么执行时的状态是什么最终结果是什么各段证据之间是否连续这样执行控制才形成一个完整闭环Intent → Authorization → Decision → Execution → Evidence。系统不仅知道发生了什么还能够证明它为什么被允许发生。对于一个要长期承担不可逆动作的架构来说后者才是可以被审计、被追责、被信任的部分。六、执行控制层自己也必须被保护顺着上一节往下推一个尖锐的问题会自然出现如果执行控制层掌握最终执行权那么把它攻破不是什么都完了吗完全正确。这也是执行控制层与普通软件最大的不同之一——它自己必须首先是一个被强保护的安全边界。守门人本身如果和被守的人一样容易被控制这道门就没有意义。如果只是把支付宝私钥从业务服务器 A 移到服务器 B然后写一个新的 REST API 让 A 调用 B这不叫执行控制层那只是移动了密钥的位置权力关系一点没变。真正的执行控制层必须保证几件事情。最终凭证不能被上层系统直接取得上层系统不能绕过裁决流程直接要求 Executor 执行执行条件不能由单一业务系统随意篡改关键状态必须能够被独立验证而在信息缺失、冲突、过期或者无法确认的时候系统应该拒绝执行而不是尽量继续执行之后必须留下无法轻易否认和篡改的证据。因此这一层保护的其实不是一个 API而是最终执行权本身。这也是为什么它天然适合使用硬件隔离、安全芯片、独立密钥域、可信状态、不可绕过的执行路径以及证据链——这些技术不是为了让架构显得复杂而是因为如果最后一把钥匙放到了这里这里就必须比普通业务系统更难被控制。七、为什么这是一个新的安全品类看到这里一个合理的怀疑是执行控制好像只是把已有技术重新组合。HSM 已经有了Policy Engine 已经有了审批已经有了硬件隔离也存在很多年。那为什么还要把 Execution Control 单独拿出来因为一个新的基础设施品类并不一定需要发明一种新的密码学算法。真正重要的是它是否重新定义了一种过去没有被独立管理的权力。IAM 出现以前账号密码早就存在IAM 的价值不是发明了身份而是把身份与访问权变成了一个独立的基础设施层。API Gateway 出现以前API 当然已经存在它的价值是把入口治理独立出来。HSM 出现以前密码学密钥早就存在它的价值是把密钥安全从普通应用中抽离。执行控制层做的是类似的事情它第一次把执行权从业务系统内部抽离出来。过去的软件架构默认能够完成业务的人也拥有完成业务所需要的最后能力。这个假设长期成立因为提出动作和执行动作的成本一样高、频率一样低。AI Agent 正在让这个默认变得危险。一个 Agent 每天可能完成几千甚至几十万个动作企业不可能逐笔点击确认但企业同样不能因为想要自动化就把无限执行权直接交给它。于是一个新的基础设施位置开始出现人负责定义边界AI 负责在边界中自主工作执行控制层负责保证最后那个动作不能越过边界。治理的对象也因此从监督模型说了什么转向约束系统做成了什么。八、AI 时代真正需要分离的是三种权力把整件事再压缩一层AI Agent 带来的安全变化其实可以归结为三种权力的关系。第一种是访问权决定谁能够进入系统、访问什么。第二种是审批权决定谁能够表达我同意。第三种是执行权决定谁能够让事情真正发生。过去的软件系统经常把三者混在一起因为在人主导的流程里这种混合的代价可以承受。而 AI Agent 时代需要逐渐把它们拆开因为每一种权力的失效方式都不一样能访问不意味着应该执行被批准也不意味着当前执行仍然成立能够做出正确决策也不意味着应该持有最终执行凭证。最后一句尤其重要。它意味着即便一个主体判断力优秀、动机良善、记录清白也不构成它应当长期握有最后一把钥匙的理由。人会误判系统会误判AI 同样会误判而判断正确与否是概率问题执行权是否可撤回却是结构问题。所以 AI 时代真正值得讨论的问题并不是我们敢不敢让 AI 自动化而应该是我们能不能让 AI 获得高度自主性同时不把最终执行权一起交出去执行控制层给出的答案是可以。九、未来最安全的 AI未必是权限最小的 AI这个答案带来一个有意思的结果。今天很多 AI 安全思路依然停留在不断限制 Agent少给一点权限少开放几个 API重要操作全部人工确认。这当然可以降低风险但它同时牺牲了 AI 最重要的价值——自主性。如果一个 AI 每执行一步都需要人点一下确认那么它最终只是一个更聪明的操作界面企业付出的是模型的成本得到的是表单的效率。真正的大规模 Agent 自动化需要另一种思路不是让 AI 什么都不能做而是让它可以自由思考、规划和工作但不能自由地越过最终执行边界。在这种结构里AI 可以提出一百种方案可以自动拆解任务可以连续调用几十个工具甚至可以自己完成绝大多数业务流程。但在某些真正不可逆的节点上——转钱、签名、删库、发布、控制设备、移动资产、改变现实世界——仍然存在一道独立边界。那道边界不评价 AI 聪不聪明也不追问它的动机它只问一个问题这一次动作有没有足够完整的理由成为现实如果答案是 Yes释放执行权如果信息未知、缺失、过期或者冲突拒绝执行。这可能是未来 AI 基础设施非常重要的一次变化安全不再来自能力的削减而来自能力与执行之间被插入的一道不可绕过的间隙。十、最后一把钥匙决定了真正的安全边界所以理解执行控制层其实不需要理解很多复杂术语只需要观察一个系统里的最后一把钥匙在谁手上。还是那笔支付宝付款。如果最终付款凭证在 AI 手里AI 拥有执行权如果它在业务服务器手里业务服务器拥有执行权如果业务服务器可以无条件调用 HSM那么从执行权的角度看业务服务器仍然能够驱动最终执行。只有当这把钥匙真正进入一个独立边界并且任何人、AI、SaaS 或业务系统都必须先满足完整执行条件才能使用它时执行权才第一次成为一个独立的安全对象。这就是执行控制层。它不是再给软件增加一套规则不是再增加一次审批也不是再增加一个安全产品。它改变的是系统最底层的一种权力关系提出一个动作的人不再天然拥有让它发生的能力。这也意味着安全的依据在发生转移——从相信某个足够可信的人或系统转向一个即使各方都不完全可信也依然成立的结构。而这可能正是 AI Agent 时代最需要重新设计的一件事情。因为未来真正危险的从来不是 AI 有能力思考。而是当 AI 判断错误的时候它手里恰好还握着最后那把钥匙。
返回列表