OpenAI发布CriticGPT，提升ChatGPT错误检测

6月28日，OpenAI宣布推出CriticGPT，这是一个专为揪出ChatGPT错误的智能工具。CriticGPT能像人工智能界的啄木鸟一样，对ChatGPT的响应进行精准批评，协助训练师识别并改进RLHF（基于人类反馈的强化学习）过程中的缺陷。这一创新举措彰显了OpenAI在RLHF技术领域的前沿地位。

实验显示，有了CriticGPT的助力，训练师在评估ChatGPT的代码时效率提升了60%，提出的修正建议更为全面。随着ChatGPT的智能升级，其错误变得更隐蔽，使得错误检测更具挑战性。CriticGPT应运而生，它能够有效评估高级AI系统的输出，比如在Python编程任务中，它能指出ChatGPT代码的不足并提出改进建议。在OpenAI的实验中，多数情况下，人们更认可结合CriticGPT的修正意见。尽管CriticGPT并非每次都正确，但它确实提高了发现和修正问题的准确性。