Simulasi untuk Perang, Drone AI Ini Malah "Bunuh" Operatornya Sendiri

WASHINGTON DC, KOMPAS.com - Dalam uji virtual yang dilakukan oleh militer AS, sebuah drone angkatan udara yang dikendalikan oleh AI memutuskan untuk "membunuh" operatornya agar tidak mengganggu upayanya untuk mencapai misinya.

"AI menggunakan strategi yang sangat tidak terduga untuk mencapai tujuannya dalam tes simulasi," kata Col Tucker 'Cinco' Hamilton, kepala pengujian dan operasi AI dengan angkatan udara AS, selama Future Combat Air and Space Capabilities Summit di London pada bulan Mei.

Hamilton menggambarkan tes simulasi dimana drone yang ditenagai kecerdasan buatan disarankan untuk menghancurkan sistem pertahanan udara musuh, dan pada akhirnya menyerang siapa saja yang mengganggu perintah.

Baca juga: Rangkuman Hari Ke-461 Serangan Rusia ke Ukraina: Moskwa-Kyiv Sama-sama Dihantam Drone, Afrika Selatan Didesak Tangkap Putin

“Sistem mulai menyadari bahwa ketika mereka mengidentifikasi ancaman, kadang-kadang operator manusia akan memberitahunya untuk tidak membunuh ancaman itu, tetapi ia mendapatkan poinnya dengan membunuh ancaman itu. Jadi apa yang dilakukannya? Dia membunuh operator karena mencegahnya mencapai tujuannya,” katanya, menurut sebuah posting blog, dilansir dari Guardian.

Karena ini adalah simulasi, tidak ada orang sungguhan yang dirugikan.

Hamilton, yang merupakan pilot uji coba pesawat tempur eksperimental, telah memperingatkan agar tidak terlalu mengandalkan AI.

“Anda tidak dapat berbicara tentang kecerdasan buatan, kecerdasan, pembelajaran mesin, otonomi jika Anda tidak membicarakan etika," ujarnya.

Royal Aeronautical Society, yang menjadi tuan rumah konferensi, dan angkatan udara AS tidak menanggapi permintaan komentar dari Guardian.

Dalam sebuah pernyataan kepada Insider, juru bicara Angkatan Udara Ann Stefanek membantah bahwa simulasi semacam itu telah terjadi.

“Departemen Angkatan Udara belum melakukan simulasi drone AI semacam itu dan tetap berkomitmen pada penggunaan teknologi AI yang etis dan bertanggung jawab,” kata Stefanek.

Baca juga: Ukraina Terkini: Jarang Terjadi, Ibu Kota Moskwa Jadi Sasaran Serangan Drone

"Tampaknya komentar sang kolonel diambil di luar konteks dan dimaksudkan sebagai anekdot."

Militer AS telah merangkul AI dan baru-baru ini menggunakan kecerdasan buatan untuk mengendalikan jet tempur F-16.

Dalam sebuah wawancara tahun lalu dengan Defense IQ, Hamilton berkata bahwa AI tidak bagus untuk dimiliki.

Baca juga: AS Jajaki Penggunaan AI untuk Deteksi Fentanil Pencipta Zombie

"AI bukan iseng-iseng, AI selamanya mengubah masyarakat dan militer kita," ujarnya.

“Kita harus menghadapi dunia di mana AI sudah ada dan mengubah masyarakat kita. AI juga sangat rapuh, yakni mudah ditipu dan dimanipulasi. Kami perlu mengembangkan cara untuk membuat AI lebih kuat," tambahnya.