KOMPAS.com - Facebook mendeteksi dan menghapus lebih banyak ujaran kebencian setelah mengembangkan sistem artificial intelligence.
Sepanjang Juli hingga September 2020, Facebook mengambil tindakan terhadap 22,1 juta konten ujaran kebencian.
Sekitar 95 persen di antaranya diidentifikasi secara proaktif lewat sistem kecerdasan buatan (artificial intelligence/AI).
Tingkat proaktif terhadap ujaran kebencian ini naik dari Juli-September 2019 yang sebesar 80,6 persen. Juga meningkat dari periode sama tahun 2018 yang sebesar 52 persen.
Sementara, di platform Instagram sebanyak 6,5 juta konten ujaran kebencian sepanjang kuartal ketiga tahun ini sudah ditindak. Jumlah ini naik 3,2 juta konten dari kuartal sebelumnya.
Facebook mengatakan naiknya tingkat deteksi proaktif atas ujaran kebencian di Instagram mayoritas didorong oleh peningkatan teknologi deteksi proaktif untuk bahasa Inggris, Arab, dan Spanyol, serta perluasan teknologi otomatisasi.
Karena ujaran kebencian sangat kontekstual, deteksi AI memerlukan kemampuan untuk meninjau posting secara holistik, dengan konteks, dan dalam berbagai bahasa.
"Kemajuan teknologi AI memungkinkan kami menghapus lebih banyak ujaran kebencian di Facebook dari waktu ke waktu, dan menemukannya lebih banyak sebelum pengguna melaporkannya kepada kami," tulis Facebook dalam situs web resminya, Kamis (19/11/2020).
Facebook mengatakan, saat kali pertama melaporkan metrik ujaran kebencian pada kuartal keempat 2017, tingkat deteksi proaktif hanya 23,6 persen.
Artinya, dari jumlah ujaran pendorong kebencian yang dihapus, sebanyak 23,6 persen di antaranya ditemukan sebelum pengguna melaporkannya ke Facebook. Sisanya dihapus setelah pengguna mengadu.
"Saat ini kami secara proaktif mendeteksi sekitar 95 persen konten ujaran kebencian yang kami hapus," sebut Facebook.
Terlepas dari apakah konten secara proaktif terdeteksi atau dilaporkan oleh pengguna, Facebook sering menggunakan AI untuk mengambil tindakan dan memprioritaskan kasus yang butuh pertimbangan konteks.
Secara global, prevalensi ujaran kebencian di Facebook pada kuartal ketiga 2020 sebesar 0,10-0,11 persen atau 10 hingga 11 penayangan ujaran kebencian untuk setiap 10.000 penayangan konten.
Simak breaking news dan berita pilihan kami langsung di ponselmu. Pilih saluran andalanmu akses berita Kompas.com WhatsApp Channel : https://www.whatsapp.com/channel/0029VaFPbedBPzjZrk13HO3D. Pastikan kamu sudah install aplikasi WhatsApp ya.