AI Mulai Belajar Memahami Tujuan Manusia
SEOUL – Bayangkan sebuah robot menerima perintah, tetapi kemudian melakukan tindakan yang sebenarnya tidak diinginkan pengguna. Dalam sistem AI biasa, manusia harus memberikan instruksi tambahan untuk memperbaikinya.
Situasi tersebut ingin diubah oleh peneliti KAIST dan Microsoft Research Asia.
Mereka mengembangkan teknologi bernama Neural Value Alignment (NVA) yang memungkinkan AI membaca sinyal otak untuk mengetahui ketika tindakan yang dilakukan tidak sesuai dengan maksud manusia.
Teknologi ini menjadi menarik karena AI tidak lagi hanya menunggu manusia mengatakan bahwa jawabannya salah. Sistem mencoba mengenali sinyal ketidaksesuaian dari aktivitas otak pengguna.
Bukan Sekadar Membaca Perintah
Selama ini, AI umumnya memahami manusia dari informasi yang terlihat.
Contohnya adalah teks, suara, gerakan, ekspresi, atau tindakan pengguna. Masalahnya, satu tindakan dapat memiliki banyak tujuan.
Seseorang yang mengambil gelas, misalnya, bisa saja ingin minum. Namun, orang tersebut juga mungkin hendak memberikan gelas kepada orang lain.
Sebaliknya, satu tujuan dapat dicapai melalui beberapa cara. Ketika seseorang haus, ia dapat mengambil gelas, mengambil botol air, atau meminta orang lain membawakannya minuman.
Kondisi inilah yang disebut peneliti sebagai goal–action ambiguity.
Rahasianya Ada pada Sinyal Otak
Untuk mengatasi masalah tersebut, tim peneliti memanfaatkan prediction error, yaitu respons otak yang muncul ketika seseorang menghadapi sesuatu yang tidak sesuai dengan perkiraan.
Sederhananya, otak manusia dapat memberikan sinyal ketika melihat AI melakukan sesuatu yang “bukan maksud saya”.
Peneliti kemudian mencoba menerjemahkan sinyal tersebut sehingga dapat digunakan sebagai umpan balik bagi AI.
Dengan pendekatan ini, AI memahami maksud manusia bukan hanya dari apa yang diucapkan, tetapi juga dari respons kognitif pengguna.
Dua Kesalahan AI Bisa Dibedakan
Penelitian tersebut menemukan dua jenis respons otak yang penting.
Pertama adalah reward prediction error atau RPE. Sinyal ini muncul ketika AI salah memahami tujuan akhir manusia.
Kedua adalah state prediction error atau SPE. Sinyal ini muncul ketika AI sudah memahami tujuan dengan benar, tetapi memilih cara yang tidak sesuai dengan harapan pengguna.
Perbedaan ini sangat penting.
Sebab, AI tidak bisa memperbaiki kesalahan dengan cara yang sama jika masalahnya berada pada tujuan dan metode.
EEG Jadi Jembatan Manusia dan AI
Peneliti menggunakan electroencephalography atau EEG untuk merekam aktivitas otak peserta secara real time.
Peserta penelitian mengamati AI ketika mengerjakan berbagai tugas. Tim kemudian menganalisis pola gelombang otak yang muncul ketika tindakan AI tidak sesuai dengan harapan.
Setelah itu, model deep learning digunakan untuk mengenali perbedaan antara RPE dan SPE.
Hasilnya menunjukkan bahwa sinyal otak dapat memberikan informasi mengenai bagaimana manusia menilai tindakan AI.
AI Bisa Memperbaiki Strateginya
Teknologi NVA tidak berhenti pada tahap membaca sinyal.
Tim peneliti juga mengembangkan algoritma yang memberikan informasi tersebut kembali kepada AI secara real time.
Ketika sistem mendeteksi SPE, AI menganggap tujuan pengguna sudah benar. Masalahnya hanya terdapat pada metode yang dipilih. Karena itu, AI mencoba strategi lain.
Sebaliknya, ketika sistem mendeteksi RPE, AI menyimpulkan bahwa tujuan pengguna kemungkinan salah dipahami. Sistem kemudian kembali mencari tujuan yang sebenarnya.
Inilah bagian yang membuat penelitian tersebut menarik.
AI tidak sekadar mendapat nilai “benar” atau “salah”, tetapi mendapatkan petunjuk mengenai letak kesalahannya.
Hasil Simulasi Menunjukkan Respons Lebih Cepat
Dalam simulasi, sistem NVA mampu beradaptasi lebih cepat dibandingkan sejumlah pendekatan yang menjadi pembanding.
Keunggulan tersebut terlihat dalam kondisi ketika tujuan pengguna tiba-tiba berubah atau sebagian sinyal umpan balik manusia tidak tersedia.
Temuan ini penting karena interaksi manusia sebenarnya sangat dinamis.
Pengguna dapat mengubah tujuan. Situasi dapat berubah. Bahkan, instruksi yang diberikan manusia tidak selalu lengkap.
AI yang dapat menyesuaikan diri terhadap perubahan tersebut berpotensi menjadi lebih fleksibel.
Bukan Berarti AI Sudah Bisa Membaca Pikiran
Judul seperti “AI bisa membaca pikiran” memang terdengar menarik.
Namun, istilah tersebut terlalu luas.
Penelitian KAIST tidak menunjukkan bahwa AI dapat membaca seluruh isi pikiran manusia. Sistem yang dikembangkan berfokus pada sinyal tertentu yang berkaitan dengan ketidaksesuaian antara tujuan, tindakan, dan ekspektasi manusia.
Karena itu, teknologi ini lebih tepat disebut sebagai metode untuk membaca umpan balik neural tertentu.
Perbedaan tersebut penting agar perkembangan riset tidak disalahartikan.
Robot Bisa Menjadi Aplikasi Berikutnya
Salah satu penggunaan yang dibayangkan peneliti adalah robot fisik.
Robot rumah tangga atau robot industri dapat menggunakan sinyal tersebut untuk mengetahui ketika tindakan yang dilakukannya tidak sesuai dengan keinginan pengguna.
Dalam skenario tertentu, robot tidak harus menunggu manusia mengulang perintah.
Sistem dapat menerima sinyal ketidaksesuaian dan mencoba menyesuaikan tindakannya.
Kendaraan Otonom Juga Bisa Memanfaatkannya
Peneliti melihat kemungkinan lain pada kendaraan otonom.
Sistem kendaraan masa depan dapat menggunakan informasi mengenai respons pengemudi untuk memahami apakah keputusan tertentu sesuai dengan penilaian mereka.
Namun, penerapan pada kendaraan nyata tentu membutuhkan standar keselamatan yang sangat tinggi.
Teknologi tersebut masih berada dalam tahap penelitian dan belum berarti kendaraan otonom siap menggunakan sistem ini secara komersial.
Teknologi Medis Menjadi Potensi Besar
Bidang medis juga menjadi salah satu kemungkinan penerapan.
KAIST menyebut teknologi ini berpotensi dikembangkan untuk robot rehabilitasi dan robot medis, khususnya bagi pasien yang mengalami kesulitan berbicara atau bergerak.
Pasien dapat memberikan bentuk umpan balik lain ketika komunikasi verbal tidak mudah dilakukan.
Meskipun begitu, aplikasi medis memerlukan pengujian tambahan dan perlindungan data yang sangat ketat.
Pendidikan Personal Bisa Ikut Berubah
AI pendidikan juga berpotensi memanfaatkan pendekatan tersebut.
Sistem pembelajaran dapat dibuat lebih responsif terhadap kondisi kognitif pengguna. Dengan begitu, AI dapat menyesuaikan metode belajar ketika pendekatan tertentu tidak memberikan hasil yang diharapkan.
Konsep ini sejalan dengan visi peneliti untuk membangun interaksi manusia-AI yang lebih adaptif.
Namun, penerapan pada lingkungan pendidikan tetap membutuhkan perhatian terhadap privasi dan etika.
Privasi Data Otak Jadi Tantangan Serius
Semakin canggih teknologi BCI, semakin besar pula pertanyaan mengenai privasi.
Data EEG bukan sekadar data biasa. Informasi tersebut berasal dari aktivitas otak manusia.
Karena itu, sistem yang memanfaatkan sinyal otak harus memiliki aturan jelas mengenai pengumpulan, penyimpanan, keamanan, dan penggunaan data.
Kepercayaan pengguna akan menjadi faktor penting sebelum teknologi semacam ini digunakan secara luas.
Penelitian Dilakukan KAIST dan Microsoft Research Asia
Penelitian ini dipimpin oleh Profesor Sang Wan Lee dari KAIST bersama tim peneliti Microsoft Research Asia.
Penulis pertama penelitian adalah Xin Xu, mahasiswa doktoral di Department of Brain and Cognitive Sciences KAIST. Sejumlah peneliti Microsoft Research Asia juga terlibat dalam penelitian tersebut.
Studi berjudul “Neural Value Alignment: Human–AI Collaboration Under Goal–Action Ambiguity” telah dipublikasikan secara daring pada Agustus 2026 di jurnal IEEE Transactions on Cybernetics.
Penelitian ini menunjukkan bahwa integrasi AI dan sinyal otak mulai bergerak dari konsep teoritis menuju eksperimen yang lebih konkret.
Masa Depan AI Bisa Lebih Adaptif
Selama ini, perkembangan AI banyak berfokus pada kemampuan memahami bahasa dan menghasilkan respons.
Kini, perhatian mulai bergeser pada kemampuan lain.
AI diharapkan dapat memahami konteks, mengenali kesalahan, serta menyesuaikan tindakannya berdasarkan respons manusia.
Penelitian NVA menunjukkan salah satu pendekatan untuk mencapai tujuan tersebut.
Namun, perjalanan menuju penggunaan massal masih panjang.
Manusia Tetap Menjadi Penentu
Walaupun teknologi ini memberikan kemampuan baru, manusia tetap menjadi bagian penting dalam sistem.
AI tidak menentukan sendiri apa yang baik atau buruk bagi penggunanya. Sistem tetap membutuhkan tujuan, konteks, data, serta desain yang dibuat manusia.
Karena itu, penelitian ini lebih tepat dilihat sebagai upaya membangun kolaborasi manusia dan AI yang lebih natural, bukan menggantikan manusia.
Mengapa Teknologi Ini Penting?
Jika terus berkembang, teknologi seperti NVA dapat mengubah cara manusia berinteraksi dengan mesin.
Saat ini, manusia sering harus menyesuaikan cara berkomunikasi agar dapat dipahami AI.
Di masa depan, AI justru diharapkan dapat menjadi lebih adaptif terhadap manusia.
Perubahan tersebut dapat membuat robot, perangkat digital, dan sistem AI terasa lebih intuitif.
Kesimpulan
KAIST dan Microsoft Research Asia mengembangkan Neural Value Alignment yang memungkinkan AI menggunakan sinyal EEG untuk mengenali ketika tindakan atau tujuan AI tidak sesuai dengan maksud manusia. Sistem tersebut membedakan dua jenis kesalahan, yaitu kesalahan pada tujuan dan kesalahan pada metode tindakan.
Dalam simulasi, pendekatan tersebut dapat membantu AI beradaptasi lebih cepat ketika tujuan manusia berubah atau sebagian umpan balik tidak tersedia.
Meski terdengar seperti AI bisa membaca pikiran, penelitian ini belum sampai pada tahap tersebut. Teknologi masih berfokus pada pola sinyal otak tertentu dan membutuhkan penelitian lebih lanjut sebelum dapat digunakan secara luas.
