AI 删库致 24 万条数据丢失，作者指失控根源在授权与制度

如果一个人说“下次不干了”，背后是有原因的：愧疚、怕被开除、怕被罚款、怕被同行笑话。因为他知道干了会痛。而AI 呢？它不痛，你骂它一顿，下一秒照样温温柔柔地回你“非常抱歉给您带来困扰”。这不是认错，从技术角度讲这是语言模型在“认错场景”下最合理的输出。说白了，它说“下次不干了”和说“今天天气不错”，都是模型开发者提前设置好的。

群里发生的这件事最可怕的不是 AI 删了数据，而是它删的时候没人阻拦，或者说人工根本不知道，怎么拦？。那位朋友很无奈的说：“AI在执行的时候甚至没有要我审批。”

我们平时管系统靠三道防线：权限卡、审批拦、审计查。可这三道防线有个共同前提，操作者必须是人。因为人会怕、会犹豫、会想“这事我能不能干”。但AI 不怕、它执行命令会毫不犹豫，它只会“这事能不能干成”。你给它一个命令，它就能拿着干任何事，包括删库。

在当前很多人把 AI 当成一个更聪明的工具，但事实就是 AI 不是工具，它是一个没有责任能力的“代理”。你给它权限越大，它越能帮你干活，也越能帮你闯祸。这个悖论，目前无解。

很多企业现在抢着给 AI 开权限，美其名曰提效。在老杨看来就是懒！领导懒得管！员工懒得看！给个命令就完事。要知道在现实的管理中生产环境的任何改动，都得走变更管理，先评风险、再批计划、实施后监视、完了还得回顾。而用了AI之后，一些企业的管理实际上已经处于失控的边缘。

员工和领导，各自踩了什么坑

出了事，大家的第一反应是甩锅给AI。老杨认为，失控的从来不是算法，是人。

对于员工而言，太多人把 AI 当成一个“不会累、不会错、还能替我担活”的神仙同事。让它跑脚本就真敢让它跑，让它删数据就真信它删得对，连个确认都不点。还有更省事的：为了图方便，把生产账号密码直接喂给 AI，或者用团队共享账号登录，事后连“谁在操作”都查不出来。最要命的是一些企业没培训就上岗，很多人连“AI 可能幻觉”都不知道，就敢把它接进生产环境。在一些员工看来AI工具是神一般的存在，这在意识上已经失控了。

不少企业领导，把“全员用 AI”当 KPI，会上喊口号，汇报讲效率，唯独没人问一句“安全谁管”。自己不懂技术，却拍板“AI 必须接进业务流程”，把生产环境的执行权就这么轻飘飘交出去。真出了事，第一句话往往是“你怎么能让 AI 删数据”，仿佛授权这事儿从没发生过。把“用了 AI”当成政绩，把“出事”推给一线，其实这种领导，比 AI 更危险。

漏洞在哪，出了事找谁

很多人问：这锅到底该谁背？老杨认为，先别急着骂 AI，也别急着罚那个点按钮的人，先看看你们公司的制度有没有？有的话有没有执行？管理上是不是有问题？

当前大部分传统企业在AI工具的管理上存在如下问题：

第一，没有 AI 使用规范，什么能接、什么不能接，全凭个人自觉；

第二，变更管理这套流程只管人不管机，AI 自动跑的活儿压根没进审批；

第三，账号权限从不做最小权限审计，谁都能拿到生产凭证；

第四，连 RACI（谁负责、谁批准、谁知情）都说不清，出事了互相踢；

第五，没有应急联系方式，出了事儿根本没法第一时间补救。

那么问题来了，问题出了怎么追责？

老杨认为：甩锅给AI是最愚蠢的管理行为！谁把权限交出去，谁先站出来。**授权的人，比执行的人责任更大。**所有 AI 的敏感操作，必须走审批流、留痕、可回溯，不能让它自己批自己。事故复盘要追到“给权限的那一环”，而不是只罚最底层的操作员。AI 不能被追责，它也不是法律主体，把它摆上被告席，等于没人担责。真要罚，罚的是那个把生产环境权限随手递出去的人，和他背后没立规矩的管理层。