前DeepMind研究员创办Metis Reasoning,称AlphaGo式方法可治AI幻觉
前DeepMind研究员Thore Graepel创办Metis Reasoning,在Nvidia GTC柏林大会提出借鉴AlphaGo思路的AI推理方案,主张用显式知识账本减少幻觉。
一位参与过AlphaGo的资深研究员押注可验证性而非模型规模,认为这是AI进入高风险行业的前提,但目前只有纲领没有系统。
- 影响若方向可行,医疗、金融、芯片设计等错误代价高的领域可能获得可追溯、可撤回知识的AI方案;知识免重训增删会改变企业维护AI知识的成本结构;当前无可用系统,短期不改变采购选择。
- 参考可考虑盘点内部因错误难追溯而暂缓使用AI的业务场景,形成候选试点清单;值得跟踪Metis的融资落地与基准结果,有实证后再决定是否投入评估资源。