Pemrosesan bahasa alami bukanlah keajaiban. Ini adalah cabang ilmu komputer yang memungkinkan mesin meniru komunikasi manusia. Tujuannya sederhana namun eksekusinya brutal. Komputer harus mengurai kata-kata tertulis dan lisan menggunakan linguistik komputasi, statistik, dan pembelajaran mendalam. Mereka tidak berpikir. Mereka menghitung probabilitas.
Upaya awal adalah aturan yang diberi kode tangan. Mereka gagal karena kurang bernuansa. Bahasa manusia berantakan. Sarkasme. Idiom. Metafora. Konsep-konsep ini dipelajari melalui pengalaman. Sebuah mesin memerlukan pemrograman eksplisit untuk membedakannya. Model awal tidak dapat menangani pengecualian. Hasilnya adalah keluaran robot yang kaku.
Kemudian datanglah NLP statistik. Pendekatan ini menggunakan probabilitas untuk memberikan makna pada segmen teks. Itu adalah sebuah langkah maju. Sistem modern melangkah lebih jauh. Mereka menggunakan model pembelajaran mendalam untuk “mempelajari” pola saat memproses data. Ini bukanlah pemahaman. Ini adalah pemrograman kompleks yang menghasilkan respons mirip manusia. Mesin memprediksi kemungkinan kata berikutnya. Ia tidak mengetahui kebenarannya.
“Sistem seperti itu tidak bisa dikatakan ‘memahami’ apa yang diurai; sebaliknya, sistem tersebut menggunakan pemrograman dan probabilitas yang kompleks untuk menghasilkan respons yang mirip manusia.”
Munculnya model bahasa besar mengubah segalanya. Sistem AI ini memprediksi akhir kalimat berdasarkan teks yang ada. GPT-3, yang dirilis oleh OpenAI pada Juni 2020, merupakan sebuah pencapaian. Itu bisa memecahkan masalah matematika sekolah menengah. Itu menulis kode komputer. Ini adalah salah satu model bahasa besar pertama yang menunjukkan rentang ini.
ChatGPT diluncurkan pada November 2022. Itu dibangun di atas fondasi tersebut. Reaksinya langsung mengejutkan. Akademisi dan jurnalis khawatir. Tulisan itu tidak bisa dibedakan dengan karya manusia. Batas antara konten yang dihasilkan dan pemikiran manusia menjadi kabur dalam semalam.
Tapi NLP bukan hanya tentang chatbots. Itu ada di GPS mobil Anda. Ini mendukung sistem yang dioperasikan dengan suara. Chatbot layanan pelanggan mengandalkannya. Program penerjemahan menggunakannya setiap hari. Bisnis menggunakannya untuk melengkapi permintaan pencarian secara otomatis. Mereka memantau media sosial untuk memahami konsumen. Teknologi ada dimana-mana. Hanya saja kurang terlihat.
Visibilitas ini membawa risiko. Bias adalah tantangan besar. Algoritme pembelajaran mesin mencerminkan data pelatihannya. Jika datanya miring, outputnya juga demikian. Mintalah model NLP untuk mendeskripsikan seorang dokter. Mungkin defaultnya adalah “Dia adalah seorang dokter.” Ini mungkin mengabaikan “Dia adalah seorang dokter.” Ini adalah bias gender yang melekat. Ini bukan kesalahan dalam kode. Ini adalah kesalahan dalam data.
Konsekuensinya nyata. Pada tahun 2015, program NLP Amazon untuk penyaringan resume gagal. Ini mendiskriminasi perempuan. Model tersebut dilatih berdasarkan resume dari peran yang didominasi laki-laki. Mereka mengetahui bahwa perempuan kurang berkualitas. Itu menghukum mereka karenanya. Ini bukanlah sebuah niat jahat. Itu adalah sebuah kemungkinan.
Ada masalah lain. Halusinasi. Model berbasis probabilitas seperti ChatGPT menghindari ucapan “Saya tidak tahu”. Mereka merespons dengan teks kemungkinan. Teks tersebut seringkali tidak akurat secara faktual. Model tersebut menimbulkan kebohongan karena kedengarannya benar. Itu tidak memverifikasi fakta. Itu hanya melanjutkan polanya.
Kami menyerahkan lebih banyak tugas kepada sistem ini. Menulis. Pengkodean. Mempekerjakan. Penggerak. Kami memercayai mereka karena mereka terdengar seperti manusia. Tapi mereka hanya menghitung kemungkinan. Kesenjangan antara terdengar seperti manusia dan menjadi manusia semakin lebar. Atau mungkin tidak pernah ada. Kami hanya ingin percaya hal itu benar.
