AI代理正在改变治理的前提
“绝不让AI代理放任自流”——ServiceNow的这一方针，对中小企业经营者来说极具启发性。该公司在允许AI代理自主判断的同时，推出了一个用于统管它们的“AI指挥塔”战略（来源：Yahoo!新闻《不让AI代理放任自流——ServiceNow用“AI指挥塔”实现自主与治理的平衡》）。
这里的关键在于，AI代理的运用同时带来了“提升现场自主性”的好处和“制造治理盲区”的风险。对于中小企业而言，如何设计好这个平衡，将决定未来的竞争力。
为什么现在AI代理的治理成了问题
AI代理并非简单的聊天机器人，而是能在没有人类指令的情况下自主执行任务和判断的系统。例如，客户服务的自动化、库存管理的优化、合同审查等，AI正在进入传统上由人类判断的领域。
对中小企业来说，这项技术是巨大的机遇。因为它直接关系到缓解人手不足、提高业务效率和降低成本。但与此同时，当AI做出错误判断时，责任由谁来承担这一根本性问题也随之浮现。
ServiceNow的案例表明，我们需要一种机制来兼顾AI代理的“自主”与“统管”。该公司通过“AI指挥塔”的概念，构建了一个中央管理系统，用于监控和控制各个AI代理的行为。
中小企业容易陷入的三种失败模式
在我过去支持过的企业中，因引入AI而导致的治理失败案例并不少见。典型的失败模式有以下三种。
失败1：交给现场“放任自流”
虽然引入了AI工具，但没有明确其判断标准和适用范围，直接甩手给现场负责人。结果导致AI向客户提供错误信息或提出不恰当的合同条款等风险。
失败2：优先统管导致“功能失调”
相反，由于过度担心风险，为AI代理的判断设置了过多的审批流程。这导致AI引入本应带来的快速判断优势丧失，最终陷入和人类逐一确认别无二致的境地。
失败3：技术依赖导致“黑箱化”
AI的判断过程变成黑箱，无法解释为何得出该结论。从金融厅要求的“说明责任”角度来看，这也是巨大的风险。
“AI指挥塔”设计的三个要点
从ServiceNow的案例中，我整理了中小企业可以在自身实践中应用的“AI指挥塔”设计要点。
要点1：明确判断的“权限”与“范围”
明确哪些判断可以交给AI代理，哪些判断需要人类批准。例如，将客户常规咨询的回复交给AI，但合同条款的变更或投诉处理则由人类判断，这就是一种划分。
要点2：嵌入监控与记录机制
建立机制，将AI代理的所有判断和行动记录为日志，并定期进行审查。ServiceNow的“AI指挥塔”设计为在中央监控各代理的行为，一旦发现异常立即发出警报。
要点3：设立定期的“复审”流程
AI代理的判断标准和权限范围并非一劳永逸。需要根据实际运营结果，定期进行复审。例如，每季度验证一次AI的判断精度，并根据需要更新规则。
具体的行动计划
接下来，我将为中小企业经营者总结三个可以立即着手的事项。
行动1：制定AI代理的“使用手册”
首先，列出公司正在使用的所有AI代理，并为每个代理制作一份手册，明确写明“可以判断什么”和“不可以判断什么”。这是员工能够毫无困惑地使用AI的基础。
行动2：指定“监控AI判断”的人
指定一名负责人定期检查AI代理的行为。这位负责人不需要精通AI技术。重要的是，他/她能够理解AI判断结果对业务的影响，并察觉到异常。
行动3：在引入AI前明确“责任归属”
在引入AI代理时，务必事先确定“如果AI的判断出现问题，由谁承担责任”。这不仅是为了规避法律风险，也是为了创造一个员工可以安心使用AI的环境。
总结：治理是AI时代竞争力的源泉
正如ServiceNow的案例所示，兼顾AI代理的自主性与治理，是未来企业经营的必要条件。尤其是中小企业，正因为资源有限，才更需要高效的治理设计。
“交给AI就万事大吉”的乐观态度，以及“AI太可怕所以不用”的消极策略，都不是正确答案。关键在于，在最大限度地发挥AI力量的同时，设计出适合自身企业的风险控制机制。
根据我支持过38家以上企业构建治理体系的经验，优秀的治理不会阻碍业务增长，反而是加速增长的引擎。AI时代的治理，也应该以同样的思路来应对。
不妨先盘点一下公司AI应用的现状，从本次介绍的三个行动开始着手。这将是您在未来竞争中胜出的第一步。
评论