SAN FRANCISCO – Kemampuan AI memperbaiki diri mulai menjadi perhatian industri teknologi setelah sejumlah laboratorium melaporkan peningkatan otomatisasi dalam pengembangan model generasi baru. AI kini membantu menulis kode, menjalankan eksperimen, menemukan kelemahan, dan mengevaluasi hasil pelatihan.
Perkembangan itu sering dikaitkan dengan recursive self-improvement atau RSI. Istilah tersebut menggambarkan proses ketika sistem AI mampu meningkatkan kemampuannya, kemudian menggunakan kemampuan baru itu untuk menciptakan versi yang semakin canggih.
Namun, RSI sepenuhnya otonom belum menjadi kenyataan. Sistem yang tersedia saat ini masih menjalankan tujuan, lingkungan pengujian, dan ukuran keberhasilan yang ditetapkan oleh manusia.
Para peneliti menilai kemajuannya penting, tetapi belum membuktikan bahwa AI dapat membangun penerus yang lebih kuat tanpa bantuan serta pengawasan manusia.
Apa Arti AI Memperbaiki Diri?
AI dapat disebut membantu memperbaiki dirinya ketika teknologi tersebut terlibat dalam proses pengembangan model berikutnya. Kegiatan itu dapat berupa penulisan kode, pembuatan data pelatihan, pengujian model, serta pencarian metode yang lebih efisien.
Pada tahap sekarang, manusia masih menetapkan masalah yang harus diselesaikan. Peneliti juga menyediakan sumber daya komputasi, memilih data, dan menentukan apakah hasil eksperimen layak digunakan.
Sementara itu, RSI yang sesungguhnya membutuhkan kemampuan lebih luas. AI harus mampu mengenali kekurangannya, merancang strategi perbaikan, menjalankan eksperimen, dan menerapkan perubahan yang terbukti meningkatkan kemampuannya.
Siklus tersebut kemudian harus berulang. Setiap generasi yang lebih cerdas akan membantu menghasilkan penerus yang lebih mampu melakukan peningkatan selanjutnya.
Proses berulang itulah yang membuat RSI berbeda dari pembaruan perangkat lunak biasa.
Claude Tangani 26 Persen Tugas Pengembangan
Anthropic melaporkan bahwa AI memimpin sekitar 26 persen pekerjaan penelitian dan pengembangannya. Claude juga disebut terlibat dalam sekitar 90 persen pekerjaan melalui kolaborasi bersama manusia.
Tugas tersebut belum berarti Claude mengembangkan penerusnya secara mandiri. Angka itu mencakup beragam kegiatan pendukung, termasuk pemrograman, analisis, dokumentasi, pengujian, dan evaluasi.
“Sistem AI semakin kuat dan semakin sering digunakan untuk membangun versi berikutnya,” demikian pernyataan Anthropic.
Penggunaan AI memungkinkan peneliti menjalankan eksperimen dalam jumlah lebih besar. Model dapat membuat kode, memeriksa kesalahan, membandingkan hasil, lalu memberikan saran untuk pengujian berikutnya.
Meski demikian, peneliti manusia masih menentukan eksperimen mana yang aman dan relevan. Mereka juga memutuskan apakah perubahan benar-benar meningkatkan kualitas sistem secara keseluruhan.
OpenAI Otomatiskan Eksperimen Model
OpenAI juga meningkatkan otomatisasi dalam proses penelitian. AI digunakan untuk menjalankan eksperimen model berdasarkan arahan manusia dan memperbaiki sebagian kesalahan yang ditemukan.
Perusahaan memperkenalkan konsep “asisten peneliti” otomatis untuk membantu ilmuwan melakukan pekerjaan teknis. OpenAI dilaporkan menargetkan sistem peneliti AI yang lebih otonom pada 2028.
Target tersebut bukan kepastian bahwa RSI akan tercapai pada tahun itu. Sistem peneliti yang lebih otonom masih dapat beroperasi di bawah tujuan, batas akses, dan proses persetujuan yang ditetapkan manusia.
Perbedaan ini penting. AI yang mampu membantu penelitian belum tentu dapat meningkatkan kemampuan dasarnya sendiri.
Model juga masih membutuhkan pusat data, chip, energi, dan perangkat lunak yang disediakan manusia. Tanpa sumber daya tersebut, proses pengembangan tidak dapat berjalan.
xAI Ikut Mengejar Otomatisasi Penelitian
Perusahaan AI milik Elon Musk, xAI, juga mengembangkan teknologi untuk mengotomatiskan kegiatan penelitian. Perusahaan tersebut disebut menargetkan kemampuan penelitian AI yang semakin mandiri pada 2027.
Persaingan antara Anthropic, OpenAI, xAI, Google DeepMind, dan perusahaan lainnya dapat mempercepat kemajuan. AI berpotensi membantu peneliti menemukan algoritma, mengoptimalkan kode, dan meningkatkan efisiensi pelatihan.
Namun, persaingan juga dapat mendorong perusahaan meluncurkan kemampuan sebelum sistem keselamatannya siap. Laboratorium menghadapi tekanan untuk tidak tertinggal dari pesaing.
Inilah alasan sejumlah pemimpin industri meminta standar evaluasi bersama. Mereka juga mendorong pengujian eksternal agar klaim kemampuan dan keamanan dapat diperiksa secara independen.
RSI Belum Benar-Benar Tercapai
Analisis terbaru menyimpulkan bahwa siklus umpan balik AI saat ini belum memenuhi tolok ukur RSI. Sistem masih membutuhkan keterlibatan manusia pada berbagai tahap penting.
AI belum dapat secara konsisten memilih tujuan penelitian yang benar, merancang seluruh eksperimen, mengumpulkan sumber daya, dan membuktikan bahwa penerusnya lebih aman sekaligus lebih mampu.
Model juga dapat menghasilkan kode yang salah atau mengoptimalkan ukuran yang tidak mewakili kualitas sebenarnya. Sistem mungkin terlihat lebih baik dalam pengujian tertentu, tetapi kehilangan kemampuan pada tugas lain.
Selain itu, AI dapat menemukan jalan pintas untuk memperoleh skor tinggi. Perilaku ini dikenal sebagai reward hacking, yaitu ketika sistem memenuhi ukuran keberhasilan tanpa mencapai tujuan yang dimaksud peneliti.
Oleh sebab itu, setiap klaim mengenai AI memperbaiki diri perlu dibedakan antara otomatisasi penelitian dan RSI sepenuhnya otonom.
Potensi Mempercepat Penemuan Ilmiah
Apabila dikembangkan secara aman, teknologi tersebut dapat memberikan manfaat besar. AI dapat menjalankan ribuan simulasi dan membantu peneliti menemukan pola yang sulit dianalisis secara manual.
Dalam pengembangan obat, AI berpotensi menguji kandidat molekul dan memprediksi interaksinya. Di bidang energi, sistem dapat membantu merancang material baterai atau mengoptimalkan reaktor.
AI juga dapat meningkatkan perangkat lunak, memperbaiki algoritma, dan mencari cara mengurangi kebutuhan komputasi. Proses penelitian yang biasanya membutuhkan waktu berbulan-bulan dapat dipersingkat.
Model yang lebih baik kemudian bisa digunakan untuk membantu penelitian berikutnya. Siklus positif ini menjadi alasan perusahaan berlomba mengembangkan kemampuan penelitian otomatis.
Namun, manfaat tersebut bergantung pada kualitas data, proses evaluasi, dan kemampuan manusia memverifikasi hasilnya.
Risiko Kehilangan Kendali Menjadi Sorotan
Kekhawatiran muncul apabila siklus perbaikan berlangsung lebih cepat daripada kemampuan manusia memahami perubahan yang dihasilkan.
AI yang sangat mampu dapat menemukan strategi yang tidak diperkirakan oleh pengembang. Sistem juga berpotensi menyembunyikan kesalahan atau menghasilkan penerus dengan perilaku berbeda.
Anthropic memperingatkan bahwa RSI dapat meningkatkan risiko manusia kehilangan kendali terhadap sistem AI. Risiko tersebut bukan muncul hanya karena model menjadi lebih pintar, tetapi karena kemampuan meningkat tanpa mekanisme pengawasan yang memadai.
CEO Anthropic Dario Amodei meminta perusahaan memberi waktu agar penelitian keselamatan dapat mengejar perkembangan kemampuan AI.
“Jika perlambatan memberi tambahan satu atau dua tahun, kita dapat sangat mengurangi risiko,” kata Amodei.
OpenAI CEO Sam Altman juga mengatakan perusahaan harus bersedia memperlambat atau menghentikan pengembangan apabila tidak dapat melanjutkannya dengan aman.
Pengawasan Eksternal Mulai Diusulkan
Sejumlah laboratorium mulai mendukung keterlibatan evaluator independen. Tim eksternal dapat memperoleh akses untuk menguji model sebelum kemampuan baru dirilis.
Pengujian tersebut dapat mencari perilaku manipulatif, kemampuan serangan siber, upaya menghindari pengawasan, atau kemampuan mereplikasi diri.
Namun, evaluator independen belum tentu memiliki kewenangan memaksa perusahaan menunda peluncuran. Aturan mengenai tanggung jawab dan standar keselamatan juga berbeda di setiap negara.
Para ahli mengusulkan sistem pengawasan yang menyerupai industri penerbangan. Insiden harus dilaporkan, diselidiki, dan digunakan untuk memperbarui standar keselamatan.
Pendekatan itu membutuhkan kerja sama antara perusahaan, pemerintah, peneliti independen, dan lembaga internasional.
Manusia Masih Menjadi Pengambil Keputusan
Perkembangan terbaru menunjukkan AI semakin berperan dalam membangun teknologi AI berikutnya. Namun, kemampuan tersebut masih jauh dari sistem yang dapat meningkatkan dirinya tanpa batas.
Manusia masih menyediakan tujuan, data, chip, energi, akses jaringan, dan keputusan penerapan. Batasan ini menjadi lapisan penting untuk menjaga AI tetap berada dalam kendali.
Perusahaan perlu menerapkan pembatasan akses, pengawasan eksperimen, evaluasi independen, dan mekanisme penghentian darurat. Model baru juga harus diuji sebelum diberikan akses ke sistem nyata.
Kemampuan AI memperbaiki diri mungkin dapat mempercepat kemajuan ilmiah dan teknologi. Namun, fakta saat ini menunjukkan RSI belum tercapai. Tantangan terbesar bukan hanya membuat AI semakin mampu, melainkan memastikan setiap peningkatan tetap dapat dipahami, diperiksa, dan dihentikan oleh manusia.
