Reputasi Maskapai Air Canada Dipertaruhkan Setelah Insiden Chatbot Sesat

Informasi itu menyesatkan pelanggan untuk membeli tiket harga penuh.

Air Canada mendapat kecaman karena berusaha menjauhkan dieri dari kesalahan tersebut dengan mengklaim bahwa bot tersebut bertanggung jawab atas tindakannya sendiri.

Di tengah dorongan yang lebih luas dari perusahaan-perusahaan untuk mengotomatisasi layanan, kasus ini, yang merupakan kasus pertama di Kanada, menimbulkan pertanyaan tentang tingkat pengawasan yang dilakukan perusahaan terhadap chatbot.

Pada 2022, Jake Moffatt menghubungi Air Canada untuk menentukan dokumen mana yang diperlukan agar memenuhi syarat untuk mendapatkan tarif kehilangan dan apakah pengembalian uang dapat diberikan secara surut.

Menurut tangkapan layar Moffat dari percakapan dengan chatbot tersebut, penduduk British Columbia diberitahu bahwa dia dapat mengajukan pengembalian dana dalam waktu 90 hari sejak tanggal tiket diterbitkan dengan mengisi formulir online.

Moffatt kemudian memesan tiket ke dan dari Toronto untuk menghadiri pemakaman salah satu anggota keluarganya.

Namun ketika dia mengajukan pengembalian dana, Air Canada mengatakan tarif duka tidak berlaku untuk perjalanan yang telah selesai dan menunjuk ke bagian duka di situs web perusahaan.

Air Canada kemudian mengakui kepada Moffatt, ketika dihadapkan dengan tangkapan layar dari saran chatbot beberapa bulan kemudian, bahwa bot tersebut telah menggunakan kata-kata yang menyesatkan dalam sarannya.

Maskapai tersebut mengatakan kepada Moffatt bahwa mereka akan memperbarui chatbot tersebut.

Moffatt kemudian menggugat selisih tarif tersebut, sehingga menyebabkan Air Canada mengeluarkan apa yang disebut oleh anggota pengadilan Christopher Rivers sebagai pengajuan yang luar biasa dalam pembelaannya.

Air Canada berpendapat bahwa meskipun ada kesalahan, chatbot adalah badan hukum terpisah dan karenanya bertanggung jawab atas tindakannya.

“Meskipun chatbot memiliki komponen interaktif, chatbot masih hanya merupakan bagian dari situs web Air Canada. Seharusnya jelas bagi Air Canada bahwa mereka bertanggung jawab atas semua informasi di situsnya,” tulis Rivers. “Tidak ada bedanya apakah informasi tersebut berasal dari halaman statis atau chatbot.”