金融稳定理事会发布AI风险管理最终版指引,要求银行企业加强对AI智能体的人工监督
据路透社10月15日报道,全球金融监管标准制定机构金融稳定理事会发布AI风险管理最终版指引,要求银行和其他企业加强对AI智能体的人工监督。修订后指引要求高风险AI应用必须加强人工监督,企业应按风险程度明确规定智能体何时须先获得人工批准再执行任务;同时删除了原先将AI视为虚拟员工的建议,强调智能体不像人类那样思考,可能以意想不到的方式理解预设目标。
金融监管标准机构把AI智能体管控从原则性建议推进到具体操作要求,高风险场景的人工审批被写入正式风控指引。
- 影响受监管行业采用智能体需先设计人工审批节点并留存依据,高风险场景上线门槛提高;将AI当虚拟员工的定位已被监管指引移除,岗位职责与授权设计需要相应调整。
- 参考可考虑对照指引把现有和计划中的智能体用例按风险分级,标出须人工批准的执行节点;值得在采购和上线评估清单中加入人工监督方案这一项。