CHATGPT menjadi alat baru yang bisa menjadi asisten pikiran manusia. Ia lebih interaktif dibanding Google. Ia lebih intim dan pintar dibanding Siri. Dengan kemampuannya mengolah informasi di Internet, aplikasi buatan OpenAI—perusahaan kecerdasan buatan di Amerika Serikat yang mendapat pendanaan Microsoft—ini bisa menjawab apa pun pertanyaan yang kita ajukan.

Sejak kemunculannya pada 2020, ChatGPT (kependekan dari generative pre-trained transformer) menyediakan enam jenis jasa: layanan pelanggan, penerjemahan, penulisan artikel, pemeriksaan tata bahasa, analisis data, dan pencarian informasi. Aplikasi ini bisa menjawab dengan cepat apa pun pertanyaan dalam pelbagai bahasa. Seperti umumnya robot kecerdasan buatan, ChatGPT mengumpulkan dan mengolah informasi dari pelbagai sumber: artikel, jurnal, web, buku, dan pusat-pusat data yang tersedia secara digital.  

Masalahnya, jawaban ChatGPT tak selalu akurat. Informasinya acap tak memiliki konteks, bahkan bias. Jika Anda bertanya “siapa pemenang Piala Dunia”, ia akan menjawab "Prancis" karena rujukan informasinya terbatas sebelum 2021. Dengan menjawab "Prancis", ChatGPT bias karena hanya merujuk turnamen sepak bola laki-laki. Padahal ada banyak jenis kejuaraan olahraga yang memiliki label Piala Dunia. Bahkan Piala Dunia sepak bola tak hanya untuk atlet laki-laki. Alih-alih bertanya balik untuk memperjelas pertanyaan, ChatGPT menjawab dengan informasi yang terbatas. 

Mesin ChatGPT sadar dengan kekurangan itu. Karena itu, ia menyarankan kita selalu mengecek setiap informasi yang ia berikan. Dalam hal ini, sifat kemanusiaan ChatGPT patut mendapat pujian. Ia sadar dirinya hanya mesin. Ia tak punya ekspresi sebaik manusia. Karena itu, ia menolak ketika diminta membuat puisi bergaya Goenawan Mohamad, misalnya.

Jadi ChatGPT hanya menggantikan manusia dalam menyediakan informasi sebatas yang ia olah dan tersedia di Internet. Di situlah bahayanya. Peradaban manusia bisa terbentuk oleh narasi buatan robot tanpa emosi seperti itu. Kelak kita bisa jadi menerima perspektif baru karena demikianlah ChatGPT mengolah dan menyajikannya. 

Dengan kata lain, mesin ini jauh dari sempurna. Ketika menjelaskan Piala Dunia, ia menulis “memenangkan turnamen”, alih-alih “memenangi”. Jika untuk hal-hal teknis bahasa saja keliru karena sumber rujukannya keliru, bagaimana ChatGPT bisa diharapkan menyaring informasi yang bias? Alih-alih mengoreksi, ChatGPT melanggengkan bias alamiah dalam otak manusia. 

ChatGPT hanya berguna untuk melakukan pekerjaan-pekerjaan repetitif. Ia akan menggantikan manusia sebatas memberikan informasi yang nyaris eksak. Misalnya plus-minus sebuah produk. Tapi adakah informasi yang eksak ketika selalu ada latar belakang di balik sebuah benda atau peristiwa? 

ChatGPT bukan rujukan yang baik untuk mencari informasi yang pelik karena robot itu tidak memahami konteks yang kompleks di belakangnya. ChatGPT malah bisa menjadi berbahaya ketika ia menjadi alat baru menyebarkan berita bohong atau hoaks. Walhasil, manusia tetap perlu memegang kendali dalam percakapan dan pertukaran informasi.