内容审核员表示AI系统存在80%的错误

人工智能使内容审核员的工作变得更复杂，而不是更简单。它无法可靠地识别暴力和恶行，彭博社援引了13位在线内容过滤专业人士的话。

一名以凯文为化名的TikTok员工表示，超过一年前他被指派在工作中使用AI程序。他估计错误数量大约为70%。例如，人工智能可能会在视频中报告汽车仪表盘上的燃油低，但应该分析显示200公里每小时的速度表。

凯文认为，尽管面临困难，雇主仍会继续用机器替代人类。

专业的审核员确认了这一说法——人工智能的应用速度超过了它高效筛选有害内容的学习速度。

专家们担心会出现一个由人工智能控制的网络环境，在这个环境中，仇恨、宣传、诱拐儿童和其他形式的在线威胁将会自由传播。

“如果走上引入人工智能的道路以减少安全专业人员的数量，这将导致其减少。需要活生生的人，”加拿大儿童保护中心首席技术官劳埃德·理查德森表示。

内容审核员的工作会造成情感创伤，而雇佣足够数量的人是一个复杂的任务。仅在 YouTube 上，用户每天上传超过 2000 万个视频。公司们寄希望于人工智能，然而它只是在干扰。

在与13名主持人交谈后，彭博社的记者发现，12人表示自从整合神经网络后，工作的复杂性增加了。

«我们不能依赖于人工智能的建议。在80%的情况下，它是错误的。我们甚至不考虑它的提议，» 36岁的哈萨克斯坦内容审核公司员工贾内尔克·凯德诺娃表示。

凯文花时间手动为所见的每一项内容标注超精确的标签，以纠正错误。这项工作只会增加负担，并占用本可以用于更紧急任务的时间。

他相信，他的仔细修正实际上是在培训系统，最终它将取代他，尽管管理层并没有明确说这点。

在2024年5月，Reddit宣布与OpenAI建立合作伙伴关系，为Reddit用户和版主提供基于AI的新功能。