前DeepMind研究员Thore Graepel提出用AlphaGo策略治理AI幻觉
前DeepMind研究员Thore Graepel计划构建能追踪知识并验证结论的AI系统，认为大模型无法解决幻觉问题。该方案借鉴AlphaGo在2016年击败Lee Sedol的机制，通过显式知识账本结合形式化证明来减少幻觉并支持可追溯的推理。Metis Reasoning团队计划在Nvidia GTC上展示此方法，旨在提升机器人等高风险领域的AI可靠性。
前DeepMind研究员Thore Graepel计划构建能追踪知识并验证结论的AI系统，认为大模型无法解决幻觉问题。该方案借鉴AlphaGo在2016年击败Lee Sedol的机制，通过显式知识账本结合形式化证明来减少幻觉并支持可追溯的推理。Metis Reasoning团队计划在Nvidia GTC上展示此方法，旨在提升机器人等高风险领域的AI可靠性。