中美在AI治理上达成共识的意义
2025年5月，中美两国政府就人工智能（AI）政府间对话达成协议的消息传出。中国外交部表示将“促进治理”，日本《朝日新闻》也对此进行了报道。
如果认为这条新闻只是遥远世界的故事，那就太草率了。随着AI国际规则制定的加速，中小企业使用的云服务和业务系统也将间接受到影响。
例如，假设您的公司正在使用AI分析客户数据。中美达成的治理标准，很有可能通过日本政府反映到国内规则中。
到那时，“不知道”可无法搪塞过去。作为经营者，如何设计自己公司的AI应用？现在正是开始思考的时机。
中小企业AI治理，从何入手
大企业设有专门的AI伦理委员会或专业团队。但中小企业没有同样的资源。那么，该做什么呢？
答案很简单：经营者自己决定“让AI做什么，不让AI做什么”。
具体来说，把握以下三点，就能规避重大风险。
1. 盘点依赖AI判断的业务
在目前的业务中，有没有直接使用AI输出的情况？
例如，将招聘初筛交给AI处理的案例。或者，根据AI评分决定交易对象的信用判断。
在这些业务中，需要建立定期检查AI判断是否存在偏差（偏见）的机制。
对于中小企业，每月一次由经营者直接抽查样本，也能产生效果。与其追求完美系统，不如先养成“查看的习惯”。
2. 将客户数据处理规则书面化
用于AI学习的数据是否恰当？这也是治理的关键。
特别是，将个人信息或机密信息输入AI服务时，需要确认这些数据将如何处理。
具体来说，要阅读所使用AI服务的服务条款，确认数据是否会被用于学习。如果条款不明确，应主动询问并明确。
只要完成这项工作一次，就能大大降低日后“客户个人信息外泄”的风险。
3. 有意保留不使用AI的决策领域
AI常被认为无所不能，但事实并非如此。
特别是，以下判断应由人类进行：
- 员工的评估和晋升
- 与交易方合同条件的最终决定
- 经营战略的方向
AI终究只是“整理信息的工具”。在公司内部共享“最终判断由人类做出”这一原则至关重要。
连接国际规则与公司内部规则
中美AI对话表明，我们已经进入一个治理在“国家间规则”和“现场规则”两方面同时推进的时代。
中小企业经营者需要具备捕捉国际动态并落实到自身公司的平衡感。
具体来说，养成定期查看以下信息来源的习惯会有所帮助：
- 经济产业省的AI相关指南
- 日本深度学习协会面向中小企业的资料
- 行业团体的AI应用相关方针
但是，不能仅仅停留在收集信息上。最重要的是，根据自身业务制定“AI使用规则”。
避免失败的三个要点
这里介绍一些常见的失败模式。
失败1：将AI导入本身作为目的
满足于“导入了AI”这一事实，而忽视了后续的规则完善。AI是手段，而非目的。如果没有导入后的治理设计，只会增加风险。
失败2：追求完美而停滞不前
认为“我们公司没有AI治理专家，所以做不到”，从而什么都不做。中小企业不需要完美的治理。现实的做法不是将风险降为零，而是将其控制在可接受的范围内。
失败3：经营者不参与
将AI的应用完全交给现场。现场为了优先提高效率，有时会采用高风险的使用方式。需要建立经营者定期确认状况、必要时修正方针的机制。
今天就能采取的行动
最后，列举三个可以立即实践的行动。
- 下周的晨会上，与团队讨论“可以交给AI的业务和不可以交给AI的业务”
- 在本月内重新阅读一遍正在使用的AI服务的服务条款
- 确保每月一次由经营者直接检查AI输出结果的时间
这些都不需要额外的费用或人员。只需经营者的意识和一点点时间就能实现。
国际AI治理的讨论今后将进一步加速。为了不落后于这股浪潮，请从今天开始迈出小小的一步。
祝愿您公司的AI应用，不是风险，而是成长的引擎。
评论