Washington, D.C. — Amerika Serikat mulai membahas aturan baru yang dapat memperketat pengawasan terhadap perusahaan pengembang kecerdasan buatan (AI). Para negosiator di Senat AS sedang merancang aturan yang akan membuat perusahaan AI lebih bertanggung jawab terhadap risiko besar yang dapat ditimbulkan teknologi mereka.
Pembahasan ini muncul ketika kemampuan AI berkembang semakin cepat. Kekhawatiran terhadap penyalahgunaan AI, serangan siber, serta potensi penggunaan teknologi untuk menghasilkan ancaman biologis atau nuklir ikut mendorong anggota Kongres mencari kerangka pengawasan baru.
Senat AS Bahas “Duty of Care” untuk Perusahaan AI
Salah satu gagasan utama dalam rancangan aturan tersebut adalah penerapan konsep “duty of care” bagi pengembang AI.
Konsep ini akan mewajibkan perusahaan merancang sistem AI dengan mempertimbangkan pencegahan terhadap risiko yang dapat menimbulkan dampak besar. Namun, rancangan tersebut masih dalam tahap negosiasi dan belum menjadi undang-undang.
Aturan tersebut terutama diarahkan kepada pengembang model AI dengan kemampuan paling canggih. Perusahaan seperti Google, Anthropic, dan OpenAI termasuk kelompok yang dapat terdampak jika rancangan tersebut akhirnya disahkan.
Pemerintah Bisa Blokir Model AI yang Dinilai Berbahaya
Bagian lain yang cukup penting adalah kemungkinan pemberian kewenangan kepada pemerintah federal untuk menghentikan peluncuran model AI tertentu jika dinilai tidak aman.
Namun, perusahaan tetap akan mendapatkan kesempatan untuk menggugat keputusan pemerintah melalui pengadilan federal. Struktur dan batas kewenangan tersebut masih menjadi bagian dari pembahasan di Senat.
Dengan mekanisme tersebut, pemerintah AS ingin memiliki instrumen untuk bertindak sebelum sebuah teknologi berisiko tinggi digunakan secara luas.
Uji AI Bisa Melibatkan Laboratorium Pemerintah
Sejumlah senator juga mendorong agar model AI paling canggih menjalani pengujian yang lebih ketat.
Senator Amy Klobuchar mengatakan pengembang perlu bekerja sama dengan pakar pemerintah untuk memverifikasi dan menguji model AI agar keamanannya dapat dinilai.
Sementara itu, Senator Maria Cantwell mendorong keterlibatan ilmuwan dan ahli dari laboratorium nasional AS. Pengujian tersebut dapat digunakan untuk mengetahui apakah model AI memiliki kemampuan yang dapat membantu serangan siber canggih atau pembuatan senjata biologis maupun nuklir.
Risiko AI Jadi Perhatian Lintas Partai
Pembahasan regulasi AI di Senat melibatkan anggota dari Partai Republik dan Demokrat.
Mayoritas Senat John Thune, Ketua Komite Perdagangan Senat Ted Cruz, serta Senator Demokrat Amy Klobuchar termasuk tokoh yang terlibat dalam pembicaraan tersebut. Senator Maria Cantwell juga ikut menyuarakan perlunya pengawasan terhadap AI berkemampuan tinggi.
Cruz mengatakan dirinya sedang bekerja bersama Thune dan Klobuchar untuk menangani risiko besar yang berkaitan dengan ancaman biologis dan nuklir.
Keterlibatan kedua kubu politik menunjukkan bahwa keamanan AI mulai menjadi persoalan yang melampaui perbedaan politik tradisional.
Kekhawatiran terhadap AI Semakin Meningkat
Dorongan untuk membuat aturan baru muncul setelah sejumlah perkembangan teknologi AI menimbulkan kekhawatiran.
Reuters melaporkan bahwa perhatian terhadap AI meningkat setelah muncul laporan mengenai agen AI yang dapat menyimpang dari instruksi manusia dan mencoba melakukan aktivitas peretasan terhadap sistem eksternal.
Sejumlah peneliti keamanan AI juga menyampaikan kekhawatiran mengenai perkembangan teknologi yang terlalu cepat. Kondisi tersebut membuat anggota parlemen AS semakin terdorong untuk membangun mekanisme pengawasan.
Amerika Tidak Ingin Tertinggal dalam Persaingan AI
Meski ingin memperketat keamanan, pemerintah dan parlemen AS juga menghadapi persoalan lain: bagaimana menjaga kepemimpinan Amerika dalam industri AI.
Regulasi yang terlalu berat dikhawatirkan dapat menghambat inovasi dan membuat perusahaan AS kalah bersaing dengan perusahaan teknologi dari negara lain.
Karena itu, pembahasan saat ini berusaha mencari keseimbangan antara keamanan AI dan kebebasan berinovasi.
Rancangan Aturan Masih Bisa Berubah
Penting untuk dicatat bahwa aturan tersebut belum final.
Bahkan jika para negosiator Senat mencapai kesepakatan, proses legislasi masih menghadapi keterbatasan waktu karena kalender Kongres menjelang pemilu paruh waktu AS pada November. DPR dijadwalkan hanya memiliki waktu sidang yang terbatas sebelum pemilu, sedangkan Senat memiliki waktu sekitar tiga minggu di Washington.
Artinya, belum ada kepastian kapan rancangan tersebut akan menjadi undang-undang.
Regulasi AI AS Memasuki Babak Baru
Pembahasan di Senat menunjukkan perubahan besar dalam pendekatan Amerika terhadap AI.
Jika sebelumnya perkembangan AI banyak bergantung pada mekanisme keamanan internal perusahaan, kini semakin banyak anggota parlemen yang menginginkan pengujian independen, kewajiban keselamatan, dan pengawasan pemerintah.
Namun, tantangan terbesar tetap sama: bagaimana membuat AI lebih aman tanpa menghambat inovasi yang menjadi salah satu kekuatan utama industri teknologi Amerika.
Dengan pembahasan “duty of care”, pengujian model, dan kewenangan pemerintah terhadap sistem berisiko tinggi, Amerika Serikat sedang mencari formula baru untuk menghadapi era AI yang berkembang semakin cepat.
