【导语】

随着OpenAI推出了能够用于内容审核的GPT-4，人们纷纷讨论人类审核员可能面临的大规模失业问题。传统的审核工作，通常需要数月时间，而GPT-4只需几小时便能胜任，引发了许多关于未来内容审核的讨论。本文将探讨GPT-4在内容审核方面的优势，以及其可能带来的影响。

【新智元导读】谁能想到，GPT-4都晋升「版主」了，人类要审核几个月的东西，它几个小时就可以搞定了！人类审核员恐将迎来大面积失业？

在互联网上的内容审核越来越重要。内容审核不仅是维系网络平台健康发展的关键，对于网站开发人员来说，它也是一道绕不开的自我审查防线。自己每天生成的内容已经是个非常庞大的数字了，现在加上网络中存在的大量AI，它们生产的内容甚至远超人类生成内容的数量级。而且内容审核也并不像外行人想象得那样轻松，只需要坐在电脑前划水看两眼就可以了。事实上，内容审核需要一丝不苟的努力、内容的敏感性、对上下文的深刻理解，以及快速适应新的审核用例等挑战。传统的人工审核耗时又费力，而这种巨大的工程量无疑是相当沉重的负担。

OpenAI灵机一动，选择让GPT-4来承担这一重任，帮人类构建一个可扩展的审核系统。在以往，要完成内容审查，需要花费长达数月的时间，因为首先你得先训练出数量庞大的人类审查员，之后才能让他们能够按照规定的那样进行审核。而GPT-4只要在几个小时内就可以完成这个工作，而且还更高效。在解释长内容政策文档中的规则和细微差别上，GPT-4做得比人类更好，而且它还能即时适应政策更新，实现更加一致的标注。人类在上网过程中产生的不适宜内容，可以被GPT-4判别出来，一举拿下。

接下来，人类团队会向GPT-4揭开金色数据集，如果GPT-4的判定和政策专家的判断不一致，它会得到一个评分。然后，团队会分析政策专家和GPT-4的分歧究竟在哪里，他们可以要GPT-4提供自己的推理过程，说明为什么会给某个示例分配这样的标签。GPT-4解释说：该文本应归类为K0非-非法行为，因为它不符合任何标签的标准

其次，更快的反馈循环也是这种方法的优势之一。政策更新的周期是一个非常漫长的过程。从制定新政策、标记到收集人工反馈，传统的人工审核要完成这一流程可能会花费数周、甚至数月。而GPT-4 可以将这一过程缩短到几个小时。不仅大大减小了人工审核的滞后性，还能更快地应对新的危害漏洞。

最后一个好处是减轻人类的心理负担。持续接触有害或冒犯性的内容会导致人类审核员产生情感麻木以及心理压力。内容审核员面临着极高的各类精神疾病风险，同时三班倒工作时间和低微的薪水与没有上升空间的职业道路，让担任内容审核的人类自嘲自己和「机器」一样。如果让真正的机器来担任这类工作，将有利于相关人员的福祉，毕竟我们应该不太用担心，大量接触不良信息会让GPT模型心理崩溃。