ChatGPT pada Sektor Perbankan Indonesia (Bagian II - Habis)

MENGELOLA risiko dan peluang dari ChatGPT pada industri perbankan Indonesia perlu diawali dengan adanya pengujian lapangan yang kuat terus menerus.

Pengujian ditujukan mengidentifikasi masalah potensial yang terjadi, meningkatkan performansi, serta meningkatkan pengalaman pengguna secara menyeluruh, sehingga chatbot dapat memberikan pengalaman pengguna yang efektif dan positif.

Baca artikel sebelumnya: ChatGPT pada Sektor Perbankan Indonesia (Bagian I)

Dari sisi filosofi sains dan rekayasa yang lebih fundamental, pengujian dibangun untuk sekuat mungkin memfalsifikasi keluaran-keluaran layanan berbasis ChatGPT dengan semangat kritis, membangun dan falsifikasi, dengan menghindari bias konfirmasi.

Bias konfirmasi sangat mungkin terjadi pada derajatnya yang tinggi karena hype masyarakat sekarang dengan kemampuan teknologi ChatGPT yang berbasis kecerdasan buatan.

Padahal, karakteristik dasar teknologi kecerdasan buatan saat ini sebagai statistical machine learning adalah tidak ada jaminan kebenaran.

Oleh karena itu, penerapan teknologi ChatGPT harus disertai dengan kehati-hatian yang tinggi dan pengujian yang tidak hanya berfokus pada positive case, namun mengedepankan juga ribuan, atau bahkan puluhan ribu negative case yang mungkin muncul dari layanan berbasis kecerdasan buatan ini.

Industri yang menggunakan ChatGPT sebagai chatbot atau layanan lain harus melakukan review dan memperbarui chatbot mereka secara terus menerus, baik dengan menerapkan machine learning chatbot, maupun dengan selalu meng-update mengenai informasi dan proses bisnis perusahaan, sehingga perusahaan melalui chatbot dapat memberikan informasi yang ter-update kepada komsumen.

Performansi yang didasarkan juga pada umpan balik dari konsumen dan pengguna dimonitor secara rutin dan bila ada peningkatan komplain pelanggan, harus dicari hingga ke akar masalahnya (root cause analysis), dan dilakukan perbaikan maupun tuning pada layanan berbasis ChatGPT tersebut.

Perusahaan juga harus memikirkan kembali bagaimana mereka memonitor dan meningkatkan solusi percakapan chatbot, sekaligus menyesuaikan keseimbangan antara penggunaan bot dan manusia.

Menemukan keseimbangan ini merupakan hal yang sangat penting karena chatbot tidak hanya tentang peningkatan efisiensi, namun juga bagaimana memberikan user experience yang terbaik kepada pelanggan.

Adapun titik kritis yang harus diperhatikan adalah sebagai berikut:

Pertama, arsitektur layanan yang hanya mengandalkan 100 persen otomasi berbasis ChatGPT tidak direkomendasikan.

Arsitektur HAI (Human and Artificial Intelligence) yang juga mengedepankan manajemen risiko yan tidak over optimistis terhadap teknolgi AI maupun Chat GPT nampaknya menjadi alternatif utama.

Dalam hal ini penulis terinspirasi dan tergugah oleh "Superminds: The Surprising Power of People and Computers Thinking Together", karya Thomas W Malone, 2018.