OpenAI宣称其GPT4技术能够解决大规模内容审核难题，并取代成千上万名人工审核员。OpenAI在博客文章中详细介绍了其审核系统的运作方式，并表示机器判断准确率与人类相当且更加一致。此举被认为是利用人工智能解决对社会有益的问题的重要一步。
OpenAI的安全系统负责人Lilian Weng表示，她希望看到更多人采用这种运营方式，以减轻人工审核的毒性和精神压力。传统审核方法的三个主要问题是政策解释因人而异、政策制定过程缓慢以及员工心理健康问题。
与以往的自动化系统相比，OpenAI的GPT-4审核系统声称具有一些优势。首先，该系统能够保持一致性，而不会像人类一样因个人解释和情绪波动而出现偏差。其次，它可以快速制定新政策，大大缩短了传统审核过程中的起草、标记、收集反馈和完善过程。第三，机器不会受到持续接触有害内容的心理创伤，从而为员工提供更好的工作环境。
然而，OpenAI的技术本身也涉及到大量的人工工作。成千上万的人在非洲等地区负责进行内容注解和标记，这些工作往往薪酬较低且缺乏心理健康支持。
虽然OpenAI将其技术宣传为创新和革命性的，但实际上人工智能在内容审核领域已经得到了广泛应用。Meta、Google和TikTok等平台也使用类似的算法来审核大部分的有害和非法内容。虽然机器审核的错误率相对较低，但仍有可能漏过数以百万计的有害帖子或误删无害内容。
此外，生成式人工智能如ChatGPT和公司的图像生成器DALL-E使得制造和传播虚假信息变得更加容易。虽然OpenAI致力于使ChatGPT内容更加真实，但GPT4仍然可能生成与新闻相关的虚假信息和错误信息。
尽管存在这些挑战，OpenAI的技术仍为解决大规模内容审核难题提供了一种新的思路。然而，就像任何人工智能应用程序一样，结果和输出需要通过人类参与者的监控、验证和完善来仔细检查。