İçerik moderatörleri, AI sistemlerinin %80 hata yaptığını bildirdi.
Yapay zeka, içerik moderatörlerinin işini kolaylaştırmak yerine zorlaştırıyor. Şiddet ve kötülüğü güvenilir bir şekilde tanımlayamıyor, Bloomberg'in 13 profesyonel çevrimiçi içerik filtreleyicisine atıfta bulunarak yazdığı gibi.
TikTok'ta Kevin takma adıyla bilinen bir çalışan, bir yıldan fazla bir süre önce işinde yapay zeka programı kullanması için görevlendirildiğini söyledi. Hata oranını yaklaşık %70 olarak değerlendirdi. Örneğin, yapay zeka bir videodaki otomobilin gösterge panelinde düşük yakıt seviyesini bildirebilir, oysa 200 km/s hız gösteren bir hız göstergesini analiz etmesi gerekir.
Kevin, ortaya çıkan zorluklara rağmen, işverenlerin insanların yerini makinelerle almaya devam edeceğini düşünüyor.
Profesyonel moderatörler, yapay zekanın zararlı içeriği etkili bir şekilde ayıklamayı öğrenmesinden daha hızlı bir şekilde uygulanmaya başlandığını onayladı.
Uzmanlar, nefret, propaganda, çocuk istismarı ve diğer çevrimiçi tehditlerin serbestçe yayılacağı, yapay zeka tarafından kontrol edilen bir internet ortamının ortaya çıkmasından endişe ediyor.
"Eğer güvenlik uzmanlarını azaltmak için yapay zeka entegrasyonu yoluna çıkarsak, bu onların sayısının düşmesine yol açar. Canlı insanlara ihtiyaç var," dedi Kanada Çocuk Koruma Merkezi'nin teknoloji direktörü Lloyd Richardson.
İçerik moderatörlüğü duygusal yaralar açar ve yeterli sayıda insan istihdam etmek zor bir görevdir. Kullanıcılar yalnızca YouTube'da günde 20 milyondan fazla video yüklüyor. Şirketler yapay zekaya yatırım yapıyor, ancak bu sadece engel oluyor.
Bloomberg muhabirleriyle konuşan 13 moderatörden 12'si, yapay zeka entegrasyonunun işlerini zorlaştırdığını belirtti.
"Yapay zeka ipuçlarına güvenemeyiz. %80 oranında yanılıyor. Onun önerilerine bile bakmıyoruz," dedi Kazakistan'daki bir içerik moderasyon firmasında çalışan 36 yaşındaki Zhanerke Kaidenova.
Kevin, gördüğü her şey için el ile son derece doğru etiketler koyarak hataları düzeltmekle zaman harcıyor. Bu iş sadece yükü artırıyor ve daha acil görevlere harcanabilecek zamanı alıyor.
O, titiz düzeltmelerinin aslında sistemi eğittiğine inanıyor ve sonunda onun yerini alacağını düşünüyor, ancak yönetim bunu açıkça söylemiyor.
Mayıs 2024'te Reddit, Reddit kullanıcılarına ve moderatörlerine yeni yapay zeka tabanlı özellikler sunan OpenAI ile bir ortaklık duyurdu.
View Original
This page may contain third-party content, which is provided for information purposes only (not representations/warranties) and should not be considered as an endorsement of its views by Gate, nor as financial or professional advice. See Disclaimer for details.
İçerik moderatörleri, AI sistemlerinin %80 hata yaptığını bildirdi.
Yapay zeka, içerik moderatörlerinin işini kolaylaştırmak yerine zorlaştırıyor. Şiddet ve kötülüğü güvenilir bir şekilde tanımlayamıyor, Bloomberg'in 13 profesyonel çevrimiçi içerik filtreleyicisine atıfta bulunarak yazdığı gibi.
TikTok'ta Kevin takma adıyla bilinen bir çalışan, bir yıldan fazla bir süre önce işinde yapay zeka programı kullanması için görevlendirildiğini söyledi. Hata oranını yaklaşık %70 olarak değerlendirdi. Örneğin, yapay zeka bir videodaki otomobilin gösterge panelinde düşük yakıt seviyesini bildirebilir, oysa 200 km/s hız gösteren bir hız göstergesini analiz etmesi gerekir.
Kevin, ortaya çıkan zorluklara rağmen, işverenlerin insanların yerini makinelerle almaya devam edeceğini düşünüyor.
Profesyonel moderatörler, yapay zekanın zararlı içeriği etkili bir şekilde ayıklamayı öğrenmesinden daha hızlı bir şekilde uygulanmaya başlandığını onayladı.
Uzmanlar, nefret, propaganda, çocuk istismarı ve diğer çevrimiçi tehditlerin serbestçe yayılacağı, yapay zeka tarafından kontrol edilen bir internet ortamının ortaya çıkmasından endişe ediyor.
"Eğer güvenlik uzmanlarını azaltmak için yapay zeka entegrasyonu yoluna çıkarsak, bu onların sayısının düşmesine yol açar. Canlı insanlara ihtiyaç var," dedi Kanada Çocuk Koruma Merkezi'nin teknoloji direktörü Lloyd Richardson.
İçerik moderatörlüğü duygusal yaralar açar ve yeterli sayıda insan istihdam etmek zor bir görevdir. Kullanıcılar yalnızca YouTube'da günde 20 milyondan fazla video yüklüyor. Şirketler yapay zekaya yatırım yapıyor, ancak bu sadece engel oluyor.
Bloomberg muhabirleriyle konuşan 13 moderatörden 12'si, yapay zeka entegrasyonunun işlerini zorlaştırdığını belirtti.
"Yapay zeka ipuçlarına güvenemeyiz. %80 oranında yanılıyor. Onun önerilerine bile bakmıyoruz," dedi Kazakistan'daki bir içerik moderasyon firmasında çalışan 36 yaşındaki Zhanerke Kaidenova.
Kevin, gördüğü her şey için el ile son derece doğru etiketler koyarak hataları düzeltmekle zaman harcıyor. Bu iş sadece yükü artırıyor ve daha acil görevlere harcanabilecek zamanı alıyor.
O, titiz düzeltmelerinin aslında sistemi eğittiğine inanıyor ve sonunda onun yerini alacağını düşünüyor, ancak yönetim bunu açıkça söylemiyor.
Mayıs 2024'te Reddit, Reddit kullanıcılarına ve moderatörlerine yeni yapay zeka tabanlı özellikler sunan OpenAI ile bir ortaklık duyurdu.