OpenAI发布基于GPT-4的内容审核系统：缩短工作周期，减轻审核负担

人工智能研究公司OpenAI近日宣布，他们通过开发基于GPT-4的内容审核解决方案，正在为内容审核领域带来革命性的变革。这项创新有望显著缩短工作周期，减轻人工审核员的负担。


在这项突破性的工作中，OpenAI指出内容审核对于维护数字平台健康至关重要。他们基于GPT-4开发的内容审核系统可以实现更快的政策迭代，将审核工作周期从数月缩短至数小时。拥有OpenAI API访问权限的人们，现在可以借助这一系统创建个人的智能审核助手。GPT-4能够深入解析冗长的内容政策文档，把握其中的规则和微妙差别，并实时适应政策更新，以保证审核标准的一致性。

对于审核能力，OpenAI承认GPT-4的标记质量与轻度训练的人类审核员相当。然而，与经验丰富、训练有素的人类审核员相比，仍有一定差距。OpenAI强调，审核过程不应完全自动化。


值得注意的是，OpenAI并非该领域的第一个尝试者。早在2017年，谷歌的技术团队就推出了名为“Perspective”的基于AI的内容审核API，被多家媒体机构采用。

然而，尽管有这些尝试，一些企业仍选择将审核工作外包，以节省成本。就连引领智能科技的Facebook，也被曝雇佣了数千名菲律宾年轻人，以过滤与恐怖袭击有关的内容。


据媒体报道，Facebook将部分监督内容审核的工作外包至菲律宾。然而，由于工作压力巨大，很多人难以坚持18个月以上。曾协助Facebook雇佣监督员的经理人表示，员工常常因审阅令人心灵受创的内容而受到精神创伤。

OpenAI表示，他们最新的内容审核系统展现了数字平台未来的积极愿景。即便在特定政策下，人工智能也可以减轻大量审核员的心理负担。公司透露，已有一些客户开始应用这一创新流程，为内容审核领域带来更加积极的展望。