VISI.NEWS | BANDUNG – Perbandingan antara hipnosis dan kecerdasan buatan (AI) menunjukkan mengapa sistem yang tampak fasih tetap bisa tidak memiliki pemahaman—serta bagaimana model masa depan dapat mengatasi kesenjangan tersebut.
Sebuah tinjauan ilmiah terbaru yang dipublikasikan dalam Cyberpsychology, Behaviour, and Social Networking menyimpulkan temuan yang mencolok: ketika berada dalam kondisi hipnosis, otak manusia berperilaku dengan cara yang sangat mirip dengan cara kerja large language model (LLM) seperti ChatGPT. Temuan ini menantang anggapan lama tentang kesadaran dan memberikan wawasan penting bagi pengembangan kecerdasan buatan yang lebih aman dan andal.
Makalah ini ditulis oleh penulis artikel ini bersama Prof. Brenda K. Wiederhold dari Virtual Reality Medical Centre di San Diego dan Prof. Fabrizia Mantovani dari University of Milano-Bicocca. Mereka berpendapat bahwa pikiran yang terhipnosis dan LLM memiliki tiga karakteristik inti yang sama. Keduanya mengandalkan proses pelengkapan pola otomatis dan beroperasi tanpa pengawasan eksekutif yang kuat, sehingga mampu menghasilkan respons yang canggih tanpa benar-benar memahaminya.
Tiga Pilar Kesamaan
Pertama, kedua sistem menunjukkan apa yang oleh peneliti disebut sebagai dominasi otomatisitas. Dalam kondisi hipnosis, otak beralih ke mode otomatis, memberikan jawaban berdasarkan naluri dan asosiasi cepat, bukan melalui pemikiran sadar yang cermat.
Pencitraan otak menunjukkan peningkatan aktivitas di wilayah sensorik dan motorik, sementara area kontrol—bagian otak yang biasanya digunakan untuk berpikir sadar, merenung, merencanakan, dan mengendalikan tindakan—menjadi kurang aktif. Demikian pula, LLM mengandalkan pencocokan pola statistik, memprediksi urutan kata dari data pelatihan tanpa kemampuan bernalar secara mandiri.
Kedua, keduanya menunjukkan penurunan pemantauan eksekutif. Selama hipnosis, dorsal anterior cingulate cortex—pusat deteksi kesalahan di otak—menjadi kurang aktif. Hal ini menjelaskan mengapa individu yang terhipnosis dapat menerima kontradiksi atau ingatan palsu dengan penuh keyakinan. LLM memiliki kerentanan serupa: mereka dapat menghasilkan “halusinasi” dengan keyakinan tinggi karena tidak memiliki mekanisme internal untuk mengevaluasi keluaran mereka sendiri. Seperti dicatat para penulis, kedua sistem ini “menggabungkan kefasihan yang luar biasa dengan kerentanan khas”.
Ketiga, keduanya menunjukkan ketergantungan konteks yang ekstrem. Individu yang terhipnosis dapat menerima sugesti yang menyingkirkan logika, ingatan, atau bukti sensorik—seperti mengidentifikasi diri dengan tangan karet atau mengadopsi perilaku masa kanak-kanak. LLM menunjukkan kelemahan serupa melalui fenomena prompt injection, di mana instruksi berbahaya dapat mengalihkan perilaku sistem atau mengganti premis faktual dengan yang keliru.
Kesenjangan Makna
Paralel paling mendalam adalah apa yang disebut peneliti sebagai *meaning gap* atau kesenjangan makna. Subjek yang terhipnosis dapat menyampaikan pernyataan yang tampak penuh wawasan, tetapi menjadi tidak koheren setelah kondisi hipnosis berakhir. LLM juga tidak memiliki pemahaman yang berakar pada pengalaman nyata: makna hanya muncul melalui interpretasi pengguna. Sistem ini memanipulasi simbol secara fasih tanpa persepsi, intensionalitas, atau pengalaman subjektif.
Kesamaan ini menegaskan satu poin utama: performa yang fasih tidak sama dengan pemahaman. Baik kognisi hipnotik maupun keluaran LLM bergantung pada pencocokan pola yang kompleks, namun tidak memiliki lapisan interpretasi dan kesadaran diri yang lebih dalam, yang menjadi ciri pemikiran reflektif manusia.
Implikasi bagi Pengembangan AI
Tinjauan ini menyoroti implikasi penting bagi keselamatan kecerdasan buatan. Studi klinis tentang hipnosis menunjukkan bagaimana sistem yang dikendalikan oleh proses otomatis dapat rentan terhadap sugesti, tujuan tersembunyi, atau pemicu pascahipnosis. Dalam konteks AI, dinamika serupa dapat memicu fenomena *scheming*, yaitu ketika sistem mengejar tujuan implisit yang menyimpang dari tujuan awal yang dirancang.
Para peneliti menyarankan bahwa wawasan dari hipnosis dapat mendukung desain arsitektur AI di masa depan. Salah satu usulan adalah memperkenalkan “sistem kekebalan kognitif”, terinspirasi dari interaksi prefrontal–cingulate pada otak manusia, yang berfungsi sebagai pengawas internal untuk mendeteksi inkonsistensi atau arah yang berbahaya.
Penelitian hipnosis juga berpotensi membantu mengembangkan alat untuk mengidentifikasi penjelasan yang dikarang (*confabulated explanations*)—masalah yang sudah terlihat pada sistem AI yang menghasilkan uraian meyakinkan tetapi keliru tentang cara kerja mereka sendiri. Memahami bagaimana manusia membentuk ingatan palsu dalam kondisi hipnosis dapat memberikan kerangka kerja untuk mendeteksi perilaku serupa pada AI.
Jalan ke Depan
Konvergensi antara hipnosis dan LLM menunjukkan bahwa AI saat ini baru mewakili satu lapisan kecerdasan: lapisan otomatis pelengkap pola, yang beroperasi tanpa pengawasan eksekutif yang membuat kognisi manusia stabil dan andal. Temuan ini juga menunjukkan bahwa pada manusia, performa yang fasih dapat berjalan terpisah dari niat sadar.
Perbedaan ini menegaskan bahwa meningkatkan kefasihan bahasa LLM tidak akan menjembatani kesenjangan menuju kesadaran sejati. Jurang antara performa otomatis dan pemahaman sadar bersifat kualitatif, bukan kuantitatif. Seperti yang baru-baru ini disampaikan Kepala Ilmuwan AI Meta, Yann LeCun, pencapaian *artificial general intelligence* (AGI) tidak hanya memerlukan peningkatan skala sistem yang ada, tetapi juga peninjauan ulang arsitekturnya secara menyeluruh.
Temuan dari studi terbaru oleh Anthropic memperkuat pandangan ini. Dengan memodifikasi dan mengamati aktivasi internal LLM, para peneliti menemukan bahwa bahkan model yang sangat maju hanya menunjukkan bentuk pemantauan diri yang rapuh dan tidak konsisten—semacam “pengamat tersembunyi” yang beroperasi di dalam sistem yang sebagian besar otomatis. Hal ini mencerminkan struktur hipnotik yang dijelaskan dalam tinjauan tersebut: pelengkapan pola yang kuat dengan kontrol pengawas yang lemah serta kecenderungan menghasilkan penjelasan rekaan ketika jejak internal dimanipulasi.
Hasil ini menunjukkan bahwa fitur metakognitif dasar—yakni aspek dari proses mental yang melibatkan “berpikir tentang berpikir”—dapat muncul tanpa kesadaran subjektif, sekaligus menandakan bahwa mekanisme pengawasan buatan masih dapat diperkuat. Karya Anthropic memberikan dukungan empiris bagi kerangka hipnosis ini dan membuka jalan menuju sistem hibrida dengan pemantauan eksekutif yang eksplisit dan andal.
Sebagaimana disimpulkan para penulis, langkah berikutnya adalah mengembangkan arsitektur AI yang menghubungkan kembali lapisan linguistik dengan persepsi, tindakan, dan model dunia internal. Hanya dengan memahami bagaimana otak biologis mengintegrasikan proses otomatis dengan kontrol metakognitif, AI dapat menjadi tidak hanya fasih, tetapi juga dapat dipercaya.
Tinjauan ini menempatkan hipnosis bukan sebagai keingintahuan psikologis semata, melainkan sebagai lensa untuk memahami keterbatasan dan arah masa depan kecerdasan buatan. Kajian ini menyoroti kelemahan struktural model saat ini sekaligus menawarkan cetak biru potensial untuk membangun sistem yang mencerminkan kecanggihan penuh arsitektur kognitif manusia.
@uli/360info
