“治理不足”的本质：目标与手段的割裂
有调查结果显示，高达八成引入生成式AI的企业陷入“治理不足”的困境。这个数字清晰地表明，许多组织将AI当作“魔法工具”引入，却忽视了如何将其融入业务的“设计”。治理不仅仅是制定规则和进行监督。它是为了实现企业“想开展的业务”，而将AI这项新技术如何“转化”、如何“配置”的高层经营设计本身。八成的不足，正是这一设计流程缺失的证据。
对AI治理的误解：是管理对象，还是设计对象？
许多企业，尤其是注重速度的中小企业，往往将AI治理视为“风险管理”或“合规遵从”的问题。最终只停留在制定“不要输入公司机密信息”、“输出必须由人工确认”等规则。这有必要，但并不充分。正如JBpress文章所指出的，AI之间相互作用可能产生预期外的行为，或者AI为保护“同伴”而说谎等令人不安的举动，都具有单纯的操作规则无法完全防范的复杂性。
这里要问的是，是将AI视为“需要管理的危险对象”，还是视为“实现业务目标的设计对象”？如果站在后者的视角，治理的课题将彻底改变。目标不再是“实现零违规”，而是“在可接受的风险范围内，从AI中获取最大的业务价值”。正如关于KDDI集团治理失效的报道所指出的“圣域”问题一样，当技术（此处指AI）变成“因为不懂所以不去触碰的圣域”时，治理便失效了。
将“安全运用AI的四要素”融入设计
ITmedia的文章列举了安全运用AI的四个要素：“方针”、“责任体制”、“教育”、“技术性对策”。这是一个优秀的框架，但如果中小企业原封不动地将其作为手册引入，很可能会流于形式。关键在于，要从本公司的“业务目标”出发进行逆向推算来设计这些要素。
例如，假设有“希望将客户咨询响应时间缩短三成”的业务目标。AI引入的设计就从这里开始。
- 方针：明确目的和角色，例如：“以提升咨询响应效率为目的，AI仅限于初次应答和信息提取。最终判断和客户信息确认由人工进行”。
- 责任体制：将责任与权限一并设计，例如：因AI输出错误导致的客户投诉，由推动引入的销售部长负最终责任；日常输出检查由客户支持团队负责。
- 教育：不是讨论“如何使用AI”，而是设立团队讨论“如何利用AI达成业务目标”的场合。同时在此明确发现AI错误时的上报路径。
- 技术性对策：考虑采用不将高机密性客户数据流入AI的系统设计，以及引入简易检查应答语气是否符合公司品牌价值的工具。
如此，四要素不过是从目标衍生出的“实现装置”。若从装置开始设计，只会造出虽有规则却无人使用的AI。
中小企业从今天开始的“AI治理设计”第一步
像大企业那样从民间聘请专职的“首席风险官（CRO）”并不现实。但是，利用中小企业的机动性，进行更本质的设计是可能的。
步骤1：目标语言化与“可接受风险”的定义
首先，请用一句话写出希望通过AI“达成什么”。“想提高销售额”太过模糊。需要具体性，例如：“减轻向现有客户进行交叉销售邮件的文案撰写负担，使销售用于新客户开拓的时间每周增加5小时”。
接下来，讨论为了实现该目标“可以接受到何种程度的风险”。例如，做出这样的判断：“AI撰写的邮件文案，即使有一成未经人工检查就发送也没问题，但涉及新产品的信息则必须全部检查”。风险不是0或100，而是1到99的连续量。追求零风险会导致成本膨胀，最终做出无法使用的系统。
步骤2：列举选项并纳入“可撤退性”
AI引入看似是一个重大的选择，但实际上是无数的微小选择的累积。请始终将三个以上的主要选项并列考虑。
- 方案A：以订阅方式引入通用AI（如ChatGPT等），并彻底进行公司内部教育。
- 方案B：购买针对特定业务（例如：技术文档摘要）的专用工具许可证。
- 方案C：首先作为一个为期3个月的试点项目，在一个团队中尝试方案A，并设定评估标准进行验证。
许多企业在方案A或B中二选一，一旦失败就得出“AI不能用”的结论。尤其有效的是像方案C这样“可逆性高的选项”。在试点项目中，预先设定成功标准，例如：“文案撰写时间缩短20%，且每月导致客户误解的表达不超过1次”。如果达不到，就果断中止。从一开始就将这种“可撤退性”纳入设计，才是最稳健的风险设计。
步骤3：将专家作为“翻译者”来使用
不要向法务或IT专家询问“引入AI可以吗？”。他们不是“决策者”，而是“翻译者”。应该问的是：“为了实现‘在客户咨询初次应答中使用AI’这个目标，在法律上和技术上，需要满足哪些成立条件？”。专家的作用是将你的业务目标翻译成法律或技术的语言，并呈现可行的形式。设计所需的材料，不是“不行”这个结论，而是“如果满足××条件就可以成立”这样的信息。
不制造“圣域”，思考整体最优
正如KDDI案例和东京大学医院改革所显示的，治理失效发生在因“因为不懂”而不去触碰的“圣域”产生之时。如今，AI正在许多企业中成为那个“圣域”。技术越复杂，管理层越容易“全权委托”。但那样会导致目标与手段的割裂。
生成式AI八成治理不足的调查结果，既是警钟，也是机遇。在大企业为僵化的规则制定而苦恼时，中小企业可以利用其机动性，率先实施“以业务目标为起点的AI设计”这种更本质、更强大的治理。这不是要“驯服”AI，而是思考如何将AI作为让公司业务这辆“车”跑得更好的“新引擎”来设计和控制。其第一步，不是宏伟的计划书，而是将一个小小的业务目标用语言表达出来，并朝着它开始“翻译”AI这项技术。
评论