Data yang sudah tidak lagi terenkripsi itu akan dikumpulkan WhatsApp dan kemudian akan dibandingkan dengan metadata informasi akun (nama, foto profil, nomor telepon, pesan status, bahasa, ID ponsel dll) dan pola chat yang dinilai mencurigakan.
Sebagai contoh, salah satu pola yang disebut mencurigakan misalnya saat akun baru yang mengirimkan chat dengan volume tinggi. Akun tersebut biasanya akan dinilai sebagai spammer.
Baca juga: Last Seen WhatsApp Akan Bisa Disembunyikan dari Kontak Tertentu
Mereka juga akan mencocokkan akun Facebook dan Instagram terkait, penggunaan terakhir aplikasi, serta riwayat pelaggaran sebelumnya.
Setelah menilai, mereka punya tiga opsi, pertama tidak melakukan apapun, membuat pengguna menunggu untuk melakukan pemeriksaan lebih lanjut, atau langsung memblokir akun.
Mereka memeriksa konten dan memasukannya ke dalam berbagai kategori, seperti spam, pelaku kejahatan sipil (termasuk ujaran kebencian politik dan disinformasi), ancaman terorisme global, gambar eksploitasi anak, dan pornografi anak.
Ada pula kategori yang berkorelasi dengan bisnis, seperti prevalensi peniruan identitas bisnis, kemungkinan pelanggar kebijakan perdagangan, dan verifikasi bisnis
Sekilas dari deksripsi tugasnya, para pekerja kontrak ini mirip dengan moderator konten.
Perusahaan teknologi biasanya menggunakan jasa moderator konten untuk menyaring konten negatif, tidak senonoh, alias apapun yang tidak sesuai dengan kebijakan konten platform mereka. Tujuannya agar menciptakan platform yang lebih kondusif.
Akan tetapi, Direktur Komunikasi WhatsApp, Carl Woog, menampik ribuan pekerja yang memberi penilaian laporan pengguna sebagai "moderator konten".
"Kami biasanya tidak menyebut mereka dengan itu (konten moderator) untuk WhatsApp," ujar Woog.
Menurut Woog, perusahaannya berusaha membangun platform yang fokus ke privasi pengguna sekaligus mencegah penyalahgunaan. Karena hal itu pula, WhatsApp tidak memiliki laporan berapa konten yang "ditindak".
Sementara hal ini berbeda dengan Instagram dan Facebook yang terang-terangan menyatakan memiliki 1.500 moderator konten untuk menyaring informasi dan konten yang hilir mudik.
Secara berkala mereka mempublikasikan laporan transparansi berapa banyak akun dan konten yang ditertibkan.
Hal itu dimungkinkan karena Facebook dan Instagram tidak dilidungi fitur enkripsi dari ujung ke ujung seperti WhatsApp.
Dirangkum KompasTekno dari XDA Developers, Rabu (8/9/2021), WhatsApp mengatakan bahwa mereka membatasi data yang dikumpulkan dari pengguna sekaligus menyediakan alat yang memberi keselamatan penggunanya.
Baca juga: Terungkap, Keberadaan 1.000 Karyawan Penyortir Chat WhatsApp