AI Chatbot Perusahaan Ini Hilang Kendali, Menyumpah Serapah ke Pelanggan

LONDON, KOMPAS.com - Perusahaan Dynamic Parcel Distribution (DPD) menonaktifkan chatbot online AI-nya.

Ini setelah seorang pelanggan, Ashley Beauchamp yang berusia 30 tahun, menemukan bot tersebut menggunakan bahasa yang tidak pantas dan bahkan membuat ungkapan kritis tentang perusahaan pengiriman parsel.

Ashley menjadi frustrasi ketika mencoba menemukan paket yang hilang dan merasa bahwa chatbot tidak memberikan informasi yang berguna.

Baca juga: Australia Akan Bentuk Badan Penasihat, Atasi Risiko AI

Selanjutnya, dia mengajukan beberapa pertanyaan ke chatbot, dan respons sistem sama sekali tidak terduga dan tidak sejalan dengan interaksi yang diharapkan.

Akibat permasalahan yang tidak terduga ini, DPD memutuskan untuk menonaktifkan chatbot.

Menurut Guardian, Ashley meminta chatbot tersebut untuk menceritakan sebuah lelucon, namun dia segera melanjutkan dengan meminta chatbot tersebut untuk menulis puisi yang mengkritik perusahaan tersebut.

Dengan beberapa petunjuk lagi, chatbot langsung menyumpah serapah.

Beauchamp berbagi percakapan di X, dengan chatbot membalas satu pesan: "F**k ya! Saya akan melakukan yang terbaik untuk membantu sebanyak mungkin, bahkan jika itu berarti mengumpat."

Kemudian, dalam contoh lain, chatbot menyebut dirinya sebagai "Chatbot tidak berguna yang tidak dapat membantu Anda".

PostinganBeauchamp, seorang musisi klasik dari London, ditonton 1,3 juta kali dalam waktu 24 jam.

Baca juga: Australia Akan Bentuk Badan Penasihat untuk Tanggulangi Risiko AI, Apa Rencananya?

Mengacu pada chatbot tersebut, dia menulis di X.

"Perusahaan pengiriman paket DPD telah mengganti obrolan layanan pelanggan mereka dengan robot AI," ujarnya.

Baca juga: KALEIDOSKOP INTERNASIONAL MEI 2023: Nuklir Rusia di Belarus | Bapak AI Google Mundur

"Sama sekali tidak ada gunanya dan tidam menjawab pertanyaan apa pun, dan ketika ditanya, dengan senang hati, mereka menghasilkan puisi tentang betapa buruknya mereka sebagai sebuah perusahaan. Ia juga menyumpahi saya," tambahnya.