那么究竟存在什么问题？

根据 Sam Altman 的说法，在发布每个新版本的模型之前，OpenAl 都会进行广泛的测试，让外部专家参与反馈，利用人类反馈强化学习（RLHF）等技术改进模型的行为，并通过安全和检测系统检测。 

以新发布的 GPT-4 为例，OpenAI 在评估、测试和改进该系统环节累计花费了 6 个月的时间，后才对外公开。

其中，OpenAI 走的每一步，都制定了缓解措施。譬如对用于训练模型的数据进行调整，即所谓的预训练阶段。在预训练阶段之后，OpenAI 塑造 GPT-4 行为的主要方法是让人们对模型的反应提供反馈，以帮助模型以更安全和更有用的方式作出反应。另外，模型也会尝试拒绝有害的请求，并在面对敏感请求时作出更适当的反应。当被要求生成不允许的内容（如官方的使用政策所定义的）时，GPT-4 有 99% 以上的时间拒绝这样做。

不过，Sam Altman 也坦言，「我们努力在部署前了解和预防风险。然而，我们无法预测技术的每一次都是有益使用、或潜在滥用。这在很大程度上是因为这些系统仍然是由人指挥的。」
————————————————
版权声明：本文为CSDN博主「CSDN资讯」的原创文章，遵循CC 4.0 BY-SA版权协议，转载请附上原文出处链接及本声明。
原文链接：https://blog.csdn.net/csdnnews/article/details/130737850