內容審核員表示AI系統存在80%的錯誤

人工智能使內容審核員的工作變得更復雜，而不是更簡單。它無法可靠地識別暴力和惡行，彭博社援引了13位在線內容過濾專業人士的話。

一名以凱文爲化名的TikTok員工表示，超過一年前他被指派在工作中使用AI程序。他估計錯誤數量大約爲70%。例如，人工智能可能會在視頻中報告汽車儀表盤上的燃油低，但應該分析顯示200公裏每小時的速度表。

凱文認爲，盡管面臨困難，僱主仍會繼續用機器替代人類。

專業的審核員確認了這一說法——人工智能的應用速度超過了它高效篩選有害內容的學習速度。

專家們擔心會出現一個由人工智能控制的網路環境，在這個環境中，仇恨、宣傳、誘拐兒童和其他形式的在線威脅將會自由傳播。

“如果走上引入人工智能的道路以減少安全專業人員的數量，這將導致其減少。需要活生生的人，”加拿大兒童保護中心首席技術官勞埃德·理查德森表示。

內容審核員的工作會造成情感創傷，而僱傭足夠數量的人是一個復雜的任務。僅在 YouTube 上，用戶每天上傳超過 2000 萬個視頻。公司們寄希望於人工智能，然而它只是在幹擾。

在與13名主持人交談後，彭博社的記者發現，12人表示自從整合神經網路後，工作的復雜性增加了。

«我們不能依賴於人工智能的建議。在80%的情況下，它是錯誤的。我們甚至不考慮它的提議，» 36歲的哈薩克斯坦內容審核公司員工賈內爾克·凱德諾娃表示。

凱文花時間手動爲所見的每一項內容標注超精確的標籤，以糾正錯誤。這項工作只會增加負擔，並佔用本可以用於更緊急任務的時間。

他相信，他的仔細修正實際上是在培訓系統，最終它將取代他，盡管管理層並沒有明確說這點。

在2024年5月，Reddit宣布與OpenAI建立合作夥伴關係，爲Reddit用戶和版主提供基於AI的新功能。