企业AI的真正风险：代理间复杂性的隐忧

在企业AI的浪潮中，自主代理（autonomous agents）常被视为技术前沿，但真正的风险可能并非代理本身，而是它们之间悄然滋生的复杂性。这种复杂性像暗影般潜伏，若不及时审视，可能让整个系统陷入失控。

复杂性：从线性到指数爆炸

企业很少只部署单个代理，而是成批部署，每个代理都在调用API、与其他代理交互，甚至触及那些并非为机器决策设计的应用程序。问题在于，代理间的连接数并非线性增长——添加第二个代理，系统多一条连接；但添加第十个时，潜在连接可能激增到数十条，因为任意代理都可能调用其他代理，每次调用又可能触发连锁反应。这种复杂性不随代理数量简单叠加，而是随路径数指数级膨胀，而几乎没有人专门绘制这张连接图谱。

以客服工单为例，过去一个工单可能只需经过一个系统，现在却可能在人工介入前穿越四个代理。每一次交接都是一个决策点，却无人审批。这种链条式的复杂性，正是企业AI项目停滞的常见原因：当负责代理的团队失去对全局的掌控，问题便接踵而至。

治理失效：权限蔓延与责任模糊

治理失效的典型表现是权限蔓延。比如，开发者为简化支持工单摘要，给代理授予了宽泛的API访问权限，理由是精细化管理需要额外开发周期。几个月后，这个代理可能意外获得通往支付系统的路径——没人记得授权过，实际也没人正式批准。

责任归属同样棘手。当五个代理协同处理一个工作流，某一步骤出错时，很难确定谁对这条链条中的某个环节负责。组织结构图往往止步于“部署代理”，而从未明确“指定负责人”。这种责任真空，让治理难上加难。

治理新思路：身份、监控与执行

要修复这一乱局，首先要从身份管理入手。每个代理都应有独立实体身份，而非借用部署者的权限。它需要有自己的注册名、受限的权限范围，以及一位具名的人类赞助者来承担最终责任。这是基础，但远非充分条件。

真正的挑战在于全链监控——不仅看单个环节，而是实时追踪代理的行为、下游触发的事件及最终影响。季度报告式的回顾远远不够，你需要的是即时可见性。

然而，监控只能揭示已发生之事，无法阻止违规。执行层（enforcement）才是多数项目忽略的关键：在越权调用发生前将其拦截，而非事后记录。一个能显示代理五分钟前越权的仪表盘，只是监控工具；而能在第一时间阻止违规的系统，才称得上治理。

对企业的启示

对技术决策者而言，这意味着治理基础设施必须跟上代理的实际行为模式——互联、级联、快速增殖。身份管理、全链监控和强制执行三者缺一不可。仅靠清单式审批（一次性批准）无法应对动态链条，正如吃一次蔬菜不能代表健康饮食。

在AI竞赛中，速度固然重要，但若忽视代理间的复杂性治理，企业可能在失控的系统中付出更高代价。现在，是时候为这些“隐形的连接”点亮明灯了。