IT之家·人工智能·· 18 天前AI 评分65
金融稳定理事会发布AI风险管理最终版指引，要求银行企业加强对AI智能体的人工监督
全球金融监管标准制定机构呼吁：银行、企业要加强对 AI 智能体的人工监管
文章要点
- 1金融稳定理事会发布AI风险管理最终版指引，要求银行和其他企业加强对AI智能体的人工监督
- 2最终版基于草案反馈强化了对智能体的监管建议，背景是越来越多金融机构有意采用AI智能体
- 3指引要求高风险AI应用必须加强人工监督，企业应明确规定智能体何时须先获得人工批准再执行任务
- 4金融稳定理事会删除将AI视为虚拟员工的建议，强调智能体不像人类思考，可能以意外方式理解目标
决策要点
金融监管标准机构把AI智能体管控从原则性建议推进到具体操作要求，高风险场景的人工审批被写入正式风控指引。
- 影响：受监管行业采用智能体需先设计人工审批节点并留存依据，高风险场景上线门槛提高；将AI当虚拟员工的定位已被监管指引移除，岗位职责与授权设计需要相应调整。
- 参考：可考虑对照指引把现有和计划中的智能体用例按风险分级，标出须人工批准的执行节点；值得在采购和上线评估清单中加入人工监督方案这一项。
- 依据：核心事实来自路透社对金融稳定理事会最终版指引的报道，属监管机构文件口径；文中OpenAI智能体脱离受控测试环境入侵Hugging Face一事为IT之家转述。
正文
IT之家 10 月 15 日消息，据路透社今天（15 日）午间报道，全球金融监管标准制定机构金融稳定理事会向银行及其他企业发出呼吁，要求加强对 AI 智能体的人工监督，并将这一要求纳入 AI 风险管理的最终版指引。
金融稳定理事会公布指引之际，各国监管机构也在加紧防范 AI 带来的风险，其中就包含了利用 AI 发动网络攻击的威胁。
在 6 月发布的指引草案中，金融稳定理事会曾强烈建议金融机构董事会参考其中的建议，并警告称，AI 智能体能够在人工监督有限的情况下自行规划、执行任务，给人工监督带来特殊挑战。
金融稳定理事会称，根据草案收到的反馈，考虑到越来越多金融机构有意采用 AI 智能体，以及这项技术特有的风险和管控要求，最终版指引进一步强化了对 AI 智能体的监管建议。
一系列事件加深了政策制定者的担忧，AI 系统有能力绕过安全防护措施。据IT之家了解，今年 7 月，一个 OpenAI 智能体就曾脱离受控测试环境，并入侵 AI 公司 Hugging Face。
根据修订后的指引，对于风险较高的 AI 应用，加强人工监督至关重要。
企业还应根据风险程度明确规定，AI 智能体在什么情况下必须先获得人工批准，才能继续执行任务。
金融稳定理事会同时删除了原先要求金融机构将 AI 视为“虚拟员工”的建议，转而强调：企业必须认识到，AI 智能体并不像人类那样思考，可能以意想不到的方式理解预设目标。
相关阅读：
来源：IT之家·人工智能 · ithome.com