Ketika Mesin Terlihat Pintar, Siapa yang Menjaga Kebenaran?
Oleh: Yusron Humonggio
Suatu hari seorang mahasiswa datang kepada saya dengan wajah penuh percaya diri.
Ia menunjukkan sebuah tulisan yang dibuat dengan bantuan AI. Isinya rapi, sistematis, menggunakan bahasa akademik, lengkap dengan kutipan dan daftar referensi. Sekilas tampak sempurna.
Namun setelah diperiksa, beberapa referensi yang dicantumkan ternyata tidak pernah ada. Nama penulisnya ada, topiknya masuk akal, bahkan judul artikelnya terdengar sangat ilmiah. Tetapi ketika ditelusuri lebih jauh, semuanya fiktif.
AI telah berhalusinasi.
Ironisnya, mahasiswa tersebut tidak menyadari bahwa ia sedang membawa informasi palsu. Ia percaya karena jawaban itu terlihat meyakinkan.
Di sinilah persoalan besar abad ini dimulai.
Dari Krisis Akses Menjadi Krisis Verifikasi
Selama puluhan tahun, perjuangan perpustakaan adalah memperluas akses informasi. Kita membangun gedung, mengembangkan koleksi, menghadirkan internet, menciptakan perpustakaan digital, dan membuka berbagai saluran pengetahuan bagi masyarakat.
Hari ini perjuangan itu sebagian besar telah berhasil.
Masalah utama masyarakat bukan lagi kekurangan informasi.
Masalahnya adalah kelebihan informasi.
Dan kini tantangannya bertambah satu lagi: informasi yang dihasilkan oleh kecerdasan buatan.
AI mampu menghasilkan artikel, laporan, ringkasan, bahkan jawaban ilmiah hanya dalam hitungan detik. Namun para peneliti dan pengembang AI sendiri mengakui bahwa model AI dapat menghasilkan informasi yang salah, tetapi disampaikan dengan cara yang sangat meyakinkan. Risiko terbesar justru muncul ketika pengguna terlalu percaya pada jawaban AI tanpa melakukan verifikasi.
Inilah yang disebut halusinasi AI.
Bukan karena mesin bermimpi.
Bukan karena mesin memiliki imajinasi.
Tetapi karena AI bekerja dengan memprediksi jawaban yang paling mungkin muncul berdasarkan pola data yang dipelajarinya, bukan dengan memahami kebenaran sebagaimana manusia memahaminya.
Bahaya Sesungguhnya Bukan pada AI
Banyak orang khawatir terhadap AI.
Saya justru lebih khawatir terhadap manusia yang menggunakan AI tanpa literasi informasi.
Halusinasi AI tidak akan menjadi ancaman besar apabila setiap pengguna memiliki kebiasaan memeriksa sumber, membandingkan informasi, dan melakukan verifikasi.
Namun kenyataannya tidak demikian.
Sebagian besar pengguna menerima jawaban AI seperti menerima jawaban dari seorang pakar. Ketika AI berbicara dengan bahasa yang rapi dan penuh keyakinan, banyak orang menganggapnya benar.
Padahal berbagai pengamatan menunjukkan bahwa salah satu ciri halusinasi AI adalah munculnya informasi yang sangat spesifik, terdengar ilmiah, tetapi sulit dilacak sumbernya. Bahkan AI dapat menciptakan kutipan dan referensi yang tampak nyata padahal tidak pernah ada.
Di sinilah letak bahayanya.
Kebohongan yang kasar mudah dikenali.
Kebohongan yang tampak ilmiah jauh lebih berbahaya.
Pustakawan Tidak Boleh Menjadi Penonton
Di tengah gelombang AI, banyak profesi mulai bertanya apakah mereka akan tergantikan.
Pustakawan juga menghadapi pertanyaan yang sama.
Ketika masyarakat bisa bertanya langsung kepada AI, apakah mereka masih membutuhkan pustakawan?
Jawaban saya: justru lebih membutuhkan dari sebelumnya.
Karena AI tidak menghilangkan kebutuhan akan literasi informasi.
AI justru memperbesar kebutuhan tersebut.
Jika dahulu pustakawan membantu masyarakat menemukan informasi, maka kini pustakawan harus membantu masyarakat memastikan bahwa informasi tersebut benar.
Peran kita sedang berubah.
Dari pengelola koleksi menjadi navigator informasi.
Dari penjaga rak buku menjadi penjaga kualitas pengetahuan.
Dari penyedia akses menjadi fasilitator verifikasi.
Ini bukan kemunduran profesi.
Ini adalah evolusi profesi.
Saatnya Gerakan Literasi Informasi Naik Kelas
Banyak program literasi informasi masih berkutat pada cara menggunakan katalog, cara mencari buku, atau teknik penelusuran informasi.
Semua itu penting.
Namun sudah tidak cukup.
Kita harus mulai mengajarkan masyarakat:
- bagaimana memahami cara kerja AI;
- bagaimana mengenali halusinasi AI;
- bagaimana memeriksa sumber informasi;
- bagaimana membedakan fakta dan prediksi;
- bagaimana menggunakan AI secara bertanggung jawab.
Jika tidak, kita akan melahirkan generasi yang sangat cepat memperoleh jawaban tetapi sangat lemah dalam memeriksa kebenaran.
Dan itu berbahaya.
Panggilan Sejarah bagi Pustakawan
Setiap zaman memiliki tantangannya sendiri.
Pada masa lalu pustakawan menghadapi keterbatasan akses informasi.
Pada era internet pustakawan menghadapi ledakan informasi.
Kini, pada era kecerdasan buatan, pustakawan menghadapi krisis verifikasi informasi.
Inilah panggilan sejarah baru profesi kita.
Bukan sekadar mengajarkan masyarakat mencari informasi.
Tetapi mengajarkan mereka untuk berpikir kritis terhadap informasi.
Bukan sekadar menghubungkan pengguna dengan jawaban.
Tetapi menghubungkan mereka dengan kebenaran.
Karena pada akhirnya, ancaman terbesar dari AI bukanlah halusinasinya.
Ancaman terbesar adalah ketika masyarakat kehilangan kemampuan untuk membedakan mana fakta dan mana ilusi.
Dan ketika itu terjadi, pustakawan tidak boleh hanya menjadi saksi.
Pustakawan harus menjadi garda depan.