Mengawal Proses Moderasi Konten Media Sosial

Sebagai pengguna media digital, baik sebagai kreator maupun hanya penonton, tentu kita harus memahami bagaimana platform mengatur atau memoderasi konten.

Pemerintah dan masyarakat harus mengawal apakah platform-platform itu sudah menunaikan tugasnya dengan baik atau belum. Mengatur konten pengguna dalam sebuah platform nyatanya bukanlah perkara mudah.

Banyak pola yang harus diamati seiring berjalannya waktu, untuk menentukan startegi regulasi konten yang tepat. Strategi itu harus efektif untuk mengatur pengguna media sosial di internet yang memiliki beragam latar belakang, budaya, hingga nilai-nilai yang dianut. Satu konten mungkin bisa terasa tidak senonoh bagi satu kelompok, tetapi terasa biasa saja bagi kelompok lainnya.

Empat strategi platform atur konten pengguna

Gillespie dalam bukunya, Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media mengatakan, platform media sosial dengan miliaran pengguna seperti Facebook, Instagram, TikTok, dan YouTube membuat ‘Terms and Conditions’ dan ‘Community Guidelines’ sebagai fondasi regulasinya. Mereka juga menerapkan setidaknya empat strategi untuk mengatur konten penggunanya, yakni automatic-detection, human moderator, community flagging, dan filter/censorship.

Strategi pertama adalah automatic-detection. Dengan menggunakan artificial intelligent (AI), platform memiliki sistem yang dapat mendeteksi secara otomatis konten-konten yang tidak pantas dipublikasikan, seperti konten yang berhubungan dengan pornografi, terorisme, kekerasan atau pelanggaran copyrights.

Pendeteksian bisa dilakukan menggunakan kata kunci atau pola bentuk dan warna dalam sebuah foto yang kemudian dikonversi menjadi rangkaian kode, sebagai referensi untuk mendeteksi foto atau video yang tidak pantas (inappropriate content).

Instagram, misalnya, akan mendeteksi dan menghapus (take down) foto yang Anda unggah, jika mengandung unsur pornografi seperti memperlihatkan organ vital atau aktivitas seksual.

Penerapan automatic-detection ini tentu sangat membantu pihak platform, karena ada banyak sekali konten yang diunggah setiap waktunya. Mereka akan kewalahan jika deteksi dilakukan oleh manusia.

Namun, fitur ini memiliki kelemahan, yaitu mesin pendeteksi hanya bisa mendeteksi konten yang tidak senonoh, namun tidak dapat menganalisa atau mengerti konteks penggunaanya. Misalnya, seseorang menggunakan bahasa vulgar untuk memberikan pendidikan seks, meski bertujuan baik, mesin akan mengklasifikasikannya sebagai konten yang tidak pantas

Strategi berikutnya adalah human moderation atau proses moderasi atau pengawasan konten oleh manusia. Orang yang melakukan pekerjaan ini biasanya disebut sebagai content moderator staff. Mereka ditugaskan untuk menonton, memeriksa, dan memutuskan apakah koten-konten yang dicurigai tidak pantas akan dipertahankan atau dihapus dari platform.

Tentu saja seperti yang sudah disebutkan di atas, kelemahan sistem ini adalah tidak efisien, karena aliran konten setiap detik sangat banyak. Tahun 2021 saja, ada sekitar 136,000 foto terunggah setiap menit di Facebook.

Meskipun tidak terlalu efisien, penggunaan penilaian manusia dianggap lebih baik dibandingkan automatic-detection, karena manusia bisa mengerti konteks penggunaan kata. Misalnya dalam contoh tadi tentang penggunaan kata vulgar dalam sebuah video untuk tujuan pendidikan seks.

Dalam automatic-detection, konten tersebut adalah konten yang tidak pantas. Namun manusia bisa menganalisis lebih lanjut dan mempertimbangkan konteks penggunaanya, jadi mungkin mengategorikannya sebagai konten yang pantas.

Strategi community flagging atau tombol report juga digunakan untuk melibatkan publik dalam proses moderasi konten. Publik, siapa pun itu, bisa melaporkan pada platform, jika dia merasa konten yang ditemukannya tidak pantas atau memenuhi unsur pornografi, terorisme, maupun kekerasan.

Fitur ini tentu membantu platform untuk bertindak lebih cepat. Namun kendalanya, orang yang melaporkan tidak tersertifikasi, bahkan mungkin dia juga tidak mengerti atau tidak pernah membaca community guidelines. Jadi, besar sekali kemungkinan publik melakukan kesalahan dalam melaporkan sebuah konten.

Selain itu, ada juga bias penilaian, bisa jadi satu konten dianggap tidak pantas oleh satu orang, namun orang lain merasa konten tersebut baik-baik saja.

Meski demikian, penerapan community flagging ini bisa membantu platform memahami norma sosial lokal dalam suatu daerah tertentu. Dengan membaca konten seperti apa yang tidak diterima oleh orang dari suatu wilayah tertentu.

Terakhir, platform juga menerapakan filter atau penyaringan konten untuk mengakomodasi pengguna yang memiliki penilaian yang beragam. Misalnya, pada Juli 2021 lalu Instagram mengaktifkan mode ‘kontrol konten sensitif’, di mana pengguna yang sudah berusiang 18 tahun, bisa memilih tiga mode "less", "standard",  atau "more".

Pengguna yang memilih mode "less" atau "standard" akan mendapatkan peringatan jika sebuah konten dikategorikan sebagai konten yang sensitif. Sedangkan pengguna yang memilih mode "more" akan jarang mendapatkan peringatan tersebut, hanya ketika terdapat konten yang benar-benar dinilai sangat sensitif.

Selain itu, dalam mode "more", konten yang muncul di halaman explore dan feeds juga akan lebih ‘berani’ (mengandung unsur dewasa).

Seperti itulah beberapa cara yang dilakukan platform media sosial untuk memoderasi atau mengawasi konten para pengunaanya. Semua fitur memiliki kelebihan dan kekurangan yang berbeda-beda, namun dengan penyelenggaraan semua fitur secara bersamaan diharapkan mampu mewujudkan moderasi konten yang baik bagi semua penggunanya.

Publik harus ikut awasi

Sebagai publik atau pengguna, tentu kita harus turut mengawasi, jangan biarkan kontrol moderasi konten hanya diatur oleh para platforms yang notabennya adalah korporasi yang bergerak demi kepentingan profit. Kita harus kawal, adakah yang terasa kurang menyenangkan dalam proses moderasi ini?

Publik berhak meminta penjelasan kepada paltform jika ada kontennya yang dihapus, apalagi jika yang bersangkutan merasa kontennya tidak menyalahi aturan apapun. Publik juga berhak memberikan masukan atau kritik jika konten yang beredar di sebuah platform tidak sesuai dengan norma dan budaya bangsanya.

Untuk menghadirkan moderasi konten yang lebih baik ke depannya, platform perlu meningkatkan beberapa hal terutama teknologi dan transparansi. Peningkatan teknologi bisa dilakukan dengan mengembangkan fitur automatic-detection yang lebih akurat dan lebih cerdas dalam mendeteksi dan menilai sebuah konten.

Tentu platform juga harus lebih transparan kepada pengguna maupun masyarakat luas tentang apa saja konten yang dihapuskan secara permanen dan apa sebabnya, agar pengguna yang kontennya tiba-tiba dihapus atau mungkin akunnya mendapatkan hukuman skorsing, bisa mengerti dan paham kesalahannya, sehingga tidak ada kesemena-menaan oleh satu pihak dalam proses moderasi konten.