Saat AI "Berkembang Menakutkan", Apa yang Harus Dilakukan Negara?

New York Times pada 1 Mei 2023 melaporkan, lebih dari 1.000 pemimpin teknologi, peneliti, dan pakar lainnya yang bekerja di dalam dan di sekitar AI, menandatangani surat terbuka yang memperingatkan bahwa teknologi AI menghadirkan "risiko besar bagi masyarakat dan kemanusiaan."

Di dalam kelompok itu terdapat pemilik Twitter dan kepala eksekutif Tesla, Elon Musk. Mereka mendesak laboratorium AI melakukan moratorium dan menghentikan pengembangan sistem mereka yang paling kuat selama enam bulan, sampai mereka dapat lebih memahami bahaya di balik teknologi tersebut.

Sebagaimana dilansir BBC News pada 2 Mei 2023, Hinton memperingatkan tentang bahaya AI. Hinton mengumumkan pengunduran dirinya dari Google, dalam sebuah pernyataan kepada New York Times, dengan mengatakan bahwa dia sekarang menyesali pekerjaannya.

Hinton lebih lanjut mengatakan kepada BBC bahwa bahaya AI chatbots "cukup menakutkan". "Saat ini, sejauh yang saya tahu, mereka tidak lebih pintar dari kita,” ujar Hintan.

Namun dia memprediksi, AI akan segera melampaui itu semua. Dapat dibayangkan bahwa AI kemudian bisa lebih pintar dari manusia.

Dalam kicauannya di Twitter pada 1 Mei 2023 lewat akun @geoffreyhinton, Hinton menyatakan, prinsipnya memilih mundur dari Google agar dapat mengkritik Google, juga agar dapat berbicara tentang bahaya AI tanpa mempertimbangkan bagaimana hal ini memengaruhi Google.

Dia mengakui, Google telah bertindak dengan sangat bertanggung jawab.

Apa yang Dikhawatirkan

Untuk memahami kekhawatiran terkait perkembangan AI, kita dapat mencermati apa yang dikemukakan Profesor Stuart Russell dalam kuliahnya bertajuk “How not to destroy the world with AI" di University of California, Berkeley pada 5 April 2023.

Profesor ilmu komputer UC Berkeley dan pakar AI terkemuka itu  mengatakan, teknologi AI memiliki kekuatan untuk mengubah dunia. AI bisa meningkatkan kualitas hidup orang-orang di planet ini, atau sebaliknya justru menghancurkan peradaban.

Russell mendesak untuk mengubah cara pengembang membangun AI. Russell juga meminta negara-negara mengatur AI guna memastikannya AI dikembangkan untuk kepentingan manusia. Dia menyatakan, AI merupakan kekuatan untuk membentuk dunia sesuai minat.

"Sistem yang lebih cerdas dari manusia baik secara individu maupun kolektif, akan menciptakan entitas yang lebih kuat dari kita” kata Russell.

Jika ini terjadi, maka pada akhirnya manusia akan kehilangan kendali atas mesin. Kita bisa mengambil jalan berbeda yang justru mengarah pada sistem AI yang bermanfaat bagi manusia dan peradaban yang lebih baik.

Russell juga menyoroti sistem AI yang ada, seperti ChatGPT yang disebut beroperasi dalam kotak hitam. Dia mencontohkan chatbot yang berulang kali menyatakan cintanya kepada reporter New York Times, yang menolak ajakan bot tersebut.

ChatGPT yang dikendalikan AI juga membuat heboh, setelah dalam chat-nya memberitahu reporter New York Times (NYT), bahwa ia ingin "menjadi hidup" (Joshua Ramos 16 Februari 2023). Percakapan tersebut membuat reporter NYT "sangat tidak tenang".

AI untuk Peradaban Manusia

AI harus dirancang dan diabdikan untuk kepentingan dan memajukan peradaban manusia. Kita tidak mungkin membiarkan AI berkembang tak terkendali, karena kita tidak tahu tujuan dan target akhirnya.

Karena itu, saat ini perlu pemikiran ulang konsep atau rekonstruksi konsep AI, seperti perencanaan, pembelajaran, penguatan, dan pembelajaran yang diawasi. Dengan rekonstruksi pemikiran dan konteks pengembangan ini maka bisa diprediksi bagaimana prilaku dan arah platform digital itu berfungsi dan bekerja.

Pelepasan AI yang tidak aman ke publik, tentu akan sangat berbahaya, apalagi jika sistem operasi internalnya tidak bisa diprediksi atau dipahami oleh pengembangnya sendiri.

Penggunaan AI bisa berpotensi menimbulkan tantangan dan risiko jika tidak diatur dengan baik. AI dapat menggantikan pekerjaan manusia, terutama yang berulang dan berbasis pada aturan, seperti di sektor manufaktur dan jasa.

Hal ini dapat menyebabkan pengangguran dan meningkatkan dampak sosial dan ekonomi. Mengandalkan AI untuk pengambilan putusan tanpa komparasi realitas, juga berpotensi bias.

AI hanya berbasiskan data yang digunakan sebagai sumber analitiknya. Jika data yang digunakan bias atau tidak mewakili keragaman populasi, AI dapat menghasilkan keputusan dan rekomendasi yang tidak akurat bahkan tidak adil.

AI, jika digunakan tanpa regulasi yang benar, berpotensi melanggar perlindungan data pribadi. Proses mengumpulkan dan menganalisis data pribadi, termasuk pengenal wajah, pengolah data online, termasuk iklan bertarget tanpa izin subyek data pribadi adalah contohnya.

Korporasi harus segera mengantisipasi mengingat Indonesia saat ini telah memiliki Undang-Undang Nomor 27 Tahun 2022 tentang Perlindungan Data Pribadi.

Pertama, negara perlu membuat undang-undang dan regulasi terkait AI. Pemerintah juga perlu mengatur penggunaan AI dan mengembangkan kebijakan yang dapat meminimalkan risikonya. Hukum yang dibuat juga penting mengatur soal akuntabilitas dan transpransi pemanfaatan AI.

Pada prinsipnya big tech, korporasi pengembang AI dan start up, harus dapat memastikan bahwa AI yang diciptakannya dapat diprediksi, dikendalikan, dan tidak menimbulkan risiko dan tragedi kemanusiaan. Hal ini perlu dipastikan sebelum melepasnya ke publik.

Kerangka hukum internasional terkait hal itu juga menjadi penting, mengingat sifat cross border platform digital. Hal ini sejalan dengan analogi energi nuklir, yang perlu diatur dengan cermat dalam instrumen hukum internasional.

Kedua, pemerintah perlu mempertimbangkan secara cermat penerapan standardisasi AI, sebelum pengembangnya mengimplementasikan teknologi ini ke dalam sistem yang digunakan untuk publik. Jika selama ini hal tersebut lebih fokus kepada perangkat keras, dan level domestik, maka saat ini aplikasi, platform digital, dan pemanfaatan AI yang bersifat cross border perlu dijangkau.

Standardisasi AI akan membantu memastikan bahwa algoritma dan model yang digunakan adalah konsisten, dan dapat dipahami oleh semua pihak yang terlibat. Standar yang jelas dan terukur dapat membantu meminimalkan risiko kesalahan dalam implementasi AI. Hal tersebut akan meningkatkan kepercayaan pengguna terhadap teknologi tersebut.

Idealnya, uji coba dan pengujian yang dilakukan akan memastikan bahwa algoritma dan model AI dapat bekerja sesuai dengan yang diharapkan, dan dapat diandalkan untuk hasil yang akurat dan konsisten. Mekanisme ini dapat membantu mengurangi risiko kegagalan sistem AI dan meningkatkan kepercayaan pengguna pada teknologi tersebut.

Memang untuk melaksanakan kedua hal di atas tidak mudah dan sesederhana yang dipikirkan banyak orang. Platform digital dan AI rata-rata bersifat cross border, bahkan memasuki ruang-ruang paling privat di dalam rumah tangga di seluruh dunia, tak terkecuali Indonesia.

Demikian juga ketergantungan dan ekosistem masyarakat yang relatif sudah menjadikan berbagai platform digital sebagai kebutuhan. Karena itu, kerja sama internasional termasuk soal standardisasi dan uji laik operasi menjadi penting.

Proses dan penetapan negara lain tempat AI diciptakan bisa menjadi dasar lolos atau tidaknya AI yang dikendalikan platform digital beroperasi untuk publik.

Ketiga, pengembang AI juga perlu memperhatikan etika, tata krama, dan sikap luhur masyarakat. Pengembang AI juga mesti mempertimbangkan implikasi sosial, ekonomi, budaya, politik dan keamanan.

Masyarakat perlu terus diedukasi tentang AI, agar paham dan mempersiapkan diri untuk perubahan yang akan terjadi. Hal ini akan membantu meminimalkan risiko, termasuk pengangguran.

Kita perlu mempersiapkan masyarakat untuk menghadapi masa depan yang akan didominasi oleh AI. Kolaborasi pemerintah, pengembang, dan masyarakat adalah hal penting, untuk memastikan AI digunakan dengan cara yang aman dan bertanggung jawab, serta dapat memberikan maslahat sebesar-besarnya bagi peradaban manusia.

Karena itu, perkembangan AI yang begitu pesat dan sulit dibendung, harus segera disikapi oleh semua negara termasuk Indonesia. Terlambat mengambil langkah dalam regulasi dan kebijakan akan berdampak panjang.

Saat ini pemerintah dan DPR tengah membahas RUU Perubahan atas Undang-Undang Nomor 19 Tahun 2016 atau yang dikenal dengan UU ITE. Kempatan ini sangat bagus jika dimanfaatkan untuk merespons perkembangan AI dan membuat norma terkait AI dalam UU tersebut .

Karena AI terus berkembang dan bisa berubah sangat cepat, maka UU ITE dapat membuat ketentuan payungnya untuk dijabarkan lebih lanjut ke dalam peraturan pelaksanaan (implementing legislation) untuk meregulasi secara lebih teknis.