Chain of Verification(验证链、CoVe)—理解与实现

GitHub 存储库

介绍

在处理大型语言模型（LLM）时，一个重大挑战，特别是在事实问答中，是幻觉问题。当答案看似合理但实际上不正确时，就会出现幻觉。在高级别检查中检测这些幻觉可能具有挑战性，并且通常需要更详细的检查。

为了应对这一挑战，Meta AI 团队引入了一种称为验证链 (CoVe) 的方法，该方法由以下四个连续步骤组成：

1. 创建初始基线响应：在此步骤中，生成对原始问题的初始响应作为起点。
2. 验证问题生成：创建验证问题是为了对基线响应进行事实检查。这些问题旨在检查初始响应的准确性。
3. 执行验证：独立回答验证问题，以最大程度地减少任何潜在的偏差。此步骤确保验证过程客观、彻底。
4. 最终细化答案生成：根据验证过程的结果，生成最终细化答案。这个答案预计会更加准确和可靠，减少响应中出现幻觉的可能性。

验证链（CoVe）方法旨在通过系统地验证和细化响应以最大程度地减少不准确性来增强大型语言模型提供的答案的可靠性，特别是在事实问答场景中。

在本文中，我将尝