旧式安全无法保护企业AI：现在就建立“能叫停AI”的机制

"安全方面不用花钱。"至今仍有不少公司这样想：我们公司小，不会被盯上；到现在什么事都没发生，所以没问题。

我认为，在日本也可能发生足以载入史册的大规模网络攻击。我不是想吓唬谁，而是说应该以此为前提做好准备。而且如今，攻击者也能使用AI。攻击的成本降低了，被盯上的公司范围也会随之扩大。

AI开始在公司"内部"运转

不久之前，AI还是一种由人提问、阅读答案、再由人做判断的工具。现在，AI会去读取公司内部的数据，连接其他工具，并实际推进工作。

在公司内外之间划一条线，把入口守牢——这是长期以来的安全思路。它本身并没有错，但当已经在内部的AI读取内部数据、并与外部服务交换信息时，只盯着入口，是看不到内部正在发生什么的。

安全公司Palo Alto Networks的讲解中也提到：随着AI在企业中普及，仅仅"看得见"是不够的，还需要对AI的访问、使用方式、数据和费用进行实时控制。他们称之为"AI控制平面"。用我自己的话说，就是"公司能够在AI运行途中叫停或收紧其访问、数据和费用的机制"。这不是某个产品的名字，而是一种思路。

"安全很贵"同样是误解

"安全不用花钱"的反面，是"安全太花钱，所以碰不了"。我认为这同样是误解。

开源软件（OSS）中已经有各种现成的机制，而且现在还可以借助AI，打造适合自己公司的方案。正如AI被用于网络攻击时会显示出强大威力，它在防御上同样强大。读日志找出可疑行为、排查设置上的漏洞、确认是否符合公司内部规定——这些都是AI擅长的领域。

帮了大忙的经历，和没赶上的失败

老实说，这并不是刻意为之，但因为我们导入了密码管理器和MDM（统一管理公司终端设备的机制），在关键时刻的应对轻松了很多。公司清楚谁在使用哪个账号、每台设备在哪里，需要时可以立即更改或停用。回头看，那就是一个小小的控制平面。

安全上重要的是：当别的公司出事时，自己公司也能马上调整体制。如果不清楚什么东西在哪里，想改也改不了。

反过来，也有因为过于谨慎、结果没赶上而失败的例子。想先定好完美的对策再行动，可在讨论期间情况已经变了。AI领域变化很快，就更是如此。

判断标准：先让一部分人小规模试用

我的标准用一句话说就是"先让一部分人试试"。新的安全机制也好，AI的使用规则也好，都先从几个人开始，趁规模还小时发现并修正不合适的地方。可以撤回的决定，就快速、小步地试；难以撤回的决定，就慎重对待。选择在哪里用上谨慎，这才是关键。

另外，如今依赖外部服务也不能说就是安全的。外部服务同样可能成为攻击目标，而最了解自己公司如何使用AI的，是公司自己。所以我认为，公司内部也应该利用AI，打造适合本公司的安全措施。

抓住三点：访问、数据、费用

• 访问：决定每个AI可以接触什么，限定在必要范围内，并确保想叫停时能立即撤销权限
• 数据：决定哪些可以交给AI、哪些绝不能外流，并同时体现在规则和系统中
• 费用：设定每月上限，接近时收到提醒，超过时自动停止

只要能看清并叫停这三点，AI就不再是"全权托付"的存在，而是处在公司控制之下的工具。

正因为能叫停，才能放心尝试

上一次，我谈到要把AI导入变成"实验"，在开始之前就定好撤退条件。只有具备叫停的手段，撤退条件才能真正执行。安全不是阻碍AI应用的刹车，而是让你能放心踩油门的前提。

这周，请把公司内正在使用的AI列成一张表，逐一写下：它能访问什么、交给它哪些数据、每月花多少钱，以及想叫停时由谁、用什么方法叫停。表中空白的地方，就是你的第一步。