Tokoh-tokoh Teknologi Desak Pengembangan AI Ditangguhkan, Apa yang Dikhawatirkan?

KOMPAS.com - Desakan untuk menangguhkan pengembangan kecerdasan buatan atau artificial intelligence (AI) muncul dari sejumlah nama besar di bidang teknologi.

Kekhawatiran bahwa AI akan berkembang terlalu cepat sehingga tidak lagi dapat dikendalikan penciptanya menjadi salah satu alasan yang mendasari munculnya desakan tersebut.

Bos Twitter dan pendiri Tesla, Elon Musk, termasuk salah satu orang yang meminta agar pengembangan AI ditangguhkan hingga setidaknya selama enam bulan. Tokoh lain yang mengajukan desakan serupa adalah co-founder Apple, Steve Wozniak.

Desakan ini dituangkan dalam bentuk penandatanganan surat terbuka yang diinisiasi Future of Life Institute, organisasi nirlaba yang bertujuan mencegah timbulnya risiko ekstrim pada kehidupan manusia akibat pengembangan teknologi transformatif.

"Sistem AI yang kuat hanya boleh dikembangkan setelah kita yakin bahwa efeknya akan positif dan risikonya dapat dikelola," demikian inti desakan surat terbuka itu.

Baru-baru ini, perusahaan OpenAI meluncurkan ChatGPT-4, sebuah perangkat AI yang berhasil memukau para pengamat berkat kecerdasannya yang dinilai luar biasa.

Menurut OpenAI, kecerdasan buatan ChatGPT-4 dapat menghasilkan, menyunting, dan berinteraksi dengan pengguna untuk memproduksi tulisan kreatif dan teknis, seperti menulis lagu, skenario, atau mempelajari gaya penulisan pengguna.

Melalui surat terbuka, Future of Life Institute mengimbau untuk menghentikan sementara pengembangan AI yang lebih kuat dari GPT-4, setidaknya selama enam bulan.

Mereka mengutip pernyataan OpenAI, yang menyebutkan pada titik tertentu mungkin akan diperlukan tinjauan independen sebelum mulai mengembangkan sistem AI yang lebih kuat.

"Kami setuju (dengan pernyataan itu). Dan sekarang adalah waktunya," demikian pernyataan Future of Life Institute.

Apa yang dikhawatirkan dari AI?

Sistem AI telah mampu bersaing dengan manusia dalam hal menjalankan pekerjaan umum. Pada suatu titik, AI dikhawatirkan dapat mengungguli dan menyingkirkan manusia.

Dilansir BBC, salah satu orang yang turut menandatangani surat terbuka itu adalah Stuart Russell, profesor sains komputer di University of California, Berkeley.

"Sistem AI menimbulkan risiko yang signifikan terhadap demokrasi melalui penyebaran disinformasi, terhadap pekerjaan melalui penggantian keterampilan manusia, dan terhadap pendidikan melalui plagiarisme dan demotivasi," kata Russell.

Menurut Russell, dalam jangka panjang, mengambil tindakan pencegahan adalah harga kecil yang harus dibayar untuk mengurangi risiko ini.

Sementara itu, Amy Webb, kepala Future Today Institute dan profesor bisnis New York University memprediksi perkembangan AI dalam 10 tahun ke depan akan terbagi menjadi dua.

Dalam skenario terbaik, pengembangan AI difokuskan pada manfaat umum, dengan transparansi dalam desain sistem AI dan kemampuan individu untuk memilih apakah informasi mereka yang tersedia di internet termasuk dalam basis pengetahuan AI.

Teknologi ini akan bermanfaat sebagai alat yang membuat hidup lebih mudah dan mulus, karena fitur AI pada produk konsumen dapat mengantisipasi kebutuhan pengguna dan membantu mereka menyelesaikan hampir semua tugas.

Adapun skenario terburuk yaitu teknologi AI akan mengakibatkan lebih sedikit privasi data, dan lebih banyak sentralisasi kekuasaan di segelintir perusahaan.

Menurut Webb, kemungkinan skenario terbaik menjadi kenyataan hanya 20 persen. Ke arah mana teknologi AI berkembang sebagian besar bergantung pada perusahaan mana yang mengembangkannya.