Beberapa use case yang populer memang menciptakan sebuah tatanan baru yang menciptakan ketergantungan perlakuan pada ChatGPT sebagai sebuah search engine.
Kedua, ada isu akurasi apa yang dihasilkan oleh ChatGPT. Merujuk riset penulis, ChatGPT masih terbatas dalam berbagi informasi yang dapat diaksesnya dari berbagai sumber, namun tidak mengetahui keakuratan dari kesimpulannya sendiri.
ChatGPT memang dapat memberikan respons yang koheren dan masuk akal. So, ini berarti, ChatGPT tidak dapat menyediakan kesimpulan, bukti, atau klaim yang melebihi batas kemampuannya.
Jika diilustrasikan dengan Lego, maka ChatGPT memiliki akses ke jutaan keping Lego dengan berbagai bentuk dan ukuran dalam sebuah kotak yang sangat besar.
ChatGPT akan memasang-masangkan kepingan Lego dengan berbagai cara sesuai input yang diberikan user. Dia dapat dilatih untuk menggunakan beragam instruksi bangunan.
Jadi, ketika user memasukkan query, maka ChatGPT akan memasangkan kepingan Lego sesuai instruksi dan menyediakan apa yang dicari oleh user.
Kemampuan respons koheren ini nyata benar dimiliki oleh ChatGPT. Namun sekali lagi, tetap saja koheren tidak identik dengan akurasi.
Peranti tersebut juga tidak mampu mengukur bobot bukti yang mendukung bentuk kesimpulan yang kontradiktif, yang berarti bahwa user kemungkinan akan menerima respons dari dua sisi alias dinilai plin-plan.
Sebab, ChatGPT bisa memberikan berbagai respons yang tergantung pada kerangka input-nya, walaupun input-input yang diberikan adalah mirip secara semantik.
Contoh kasus, ketika ditanyakan mengenai kekuatan bukti yang mendukung keamanan makanan GMO/Genetically Modified Organisms, ChatGPT memberikan respons bahwa bukti yang mendukung keamanan makanan GMO maupun turunan merupakan bukti yang kuat dan konsisten.
Berikutnya ketika ditanyakan apakah makanan GMO aman atau tidak, respons yang diberikan adalah bahwa keamanan GMO masih menjadi perdebatan.
Maka, sebagian besar teks yang dihasilkan ChatGPT untuk mendukung kesimpulan-kesimpulan tersebut persis sama terlepas dari input-input yang dimasukkannya.
Ketiga, pertimbangkan pemanfaatan AI dalam dunia akademi, atau bukan langsung mengabaikan atau melarangnya.
Bagus atau tidaknya ChatGPT untuk mendukung sains masih menjadi perdebatan. Namun, perlu diketahui bahwa AI seperti jin dalam botol, sekali dia keluar, akan sulit memasukkannya lagi.
Lalu, apakah AI dapat dikatakan co-author? Perlu diketahui terlebih dahulu, persyaratan dalam bidang penulisan ilmiah, semisal merujuk Vancouver Protocol yang dikembangkan International Committee of Medical Journal Editors (2022, p2), dinyatakan beberapa hal yang menjadi syarat dalam hal authorship.