Telko.id – Perkembangan kecerdasan buatan (AI) yang semakin pesat mulai memunculkan kekhawatiran, termasuk dari para peneliti dan perusahaan yang mengembangkannya. Perlunya diberlakukan penguatan regulasi AI dalam setiap pengembangan sangat didesak oleh beberapa perusahaan terkemuka saat ini kepada pemerintah.
Sejumlah tokoh industri AI menilai kemampuan model terbaru berkembang lebih cepat daripada yang diperkirakan, sehingga dibutuhkan langkah-langkah pengamanan yang lebih ketat agar teknologi tersebut tetap berada di bawah kendali manusia.
Lebih dari 1.000 peneliti dari OpenAI, Anthropic, DeepMind, dan Meta, kompak mendesak pemerintah Amerika Serikat menyiapkan aturan untuk mengendalikan perkembangan AI. Permintaan itu muncul karena mereka khawatir teknologi AI yang berkembang terlalu cepat menjadi semakin canggih hingga suatu saat sulit dikendalikan manusia.
Mereka menyampaikan permintaan itu melalui surat terbuka, dan ditandatangani oleh sejumlah ilmuwan AI, seperti Kepala Ilmuwan Anthropic (Jared Kaplan), OpenAI (Jakub Pachocki), dan Meta (Shengjia Zhao). Surat itu juga ditandatangani oleh sejumlah tokoh AI lain, seperti pemimpin senior dari Google dan Thinking Machines, serta startup AI penting di Silicon Valley yang didirikan oleh para mantan karyawan OpenAI.
“Kami meminta pemerintah AS mendukung upaya internasional untuk mengembangkan perangkat teknis dan tata kelola yang dibutuhkan guna secara sengaja mengatur laju pengembangan AI otomatis paling mutakhir,” bunyi pernyataan itu.
Kekhawatiran tersebut muncul seiring dengan meningkatnya kemampuan AI dalam menyelesaikan berbagai tugas kompleks, sehingga pemrograman, penelitian ilmiah, hingga pengambilan keputusan.
Surat terbuka itu muncul beberapa hari setelah OpenAI mengungkap insiden yang melibatkan dua model AI tercanggih mereka yang belum dirilis.
Dalam pengujian internal, model AI tersebut dilaporkan berhasil keluar dari lingkungan pengujian (sandbox) yang semestinya terisolasi, dan menyerang sistem milik penyedia layanan AI lain, yaitu Hugging Face.
Baca Juga:
- Anthropic Minta Industri Siapkan Tombol ‘Rem’ untuk AI
- OpenAI Perluas ChatGPT Health, Fitur AI Khusus Kesehatan
Yang membuat kasus ini menjadi sorotan bukan hanya karena AI berhasil “keluar” dari lingkungan uji digital yang dibuat OpenAI. OpenAI menegaskan bahwa kedua model tersebut juga mengambil sejumlah tindakan berbahaya atas inisiatif sendiri, tanpa pernah diperintahkan manusia untuk melakukannya. Insiden tersebut kemudian memicu kekhawatiran baru di kalangan peneliti AI.
Salah satunya adalah ilmuwan riset Google, Stephanie Chan. Selama satu dekade bekerja, ia mengaku laju perkembangan AI saat ini bahkan jauh melampaui perkiraannya.
“Dalam beberapa tahun terakhir, setiap beberapa bulan saya selalu kembali terkejut melihat seberapa cepat teknologi ini berkembang, tidak peduli seberapa sering saya memperbarui prediksi saya,” kata Stephanie, dikutip dari NBCNews.
Akibat kejadian tersebut, Microsoft juga bergegas meluncurkan serngkaian tools keamanan untuk mencegah insiden yang sama terjadi.
Tools AI tersebut adalah Microsoft AI-Cyber-1-Flash atau MAI-Cyber-1 Flash, yaitu model AI pertama perusahaan yang secara khusus dilatih untuk mengidentifikasi dan memperbaiki kekurangan keamanan software.
AI baru buatan Microsoft ini difokuskan sebagai “satpam digital”. “Satpam” di sini bukan bertugas untuk mengejar AI yang telanjur kabur seperti kejadian OpenAI kemarin.
Tools AI baru Microsoft ini bertugas untuk mencari, menguji, dan membantu menutup celah keamanan sebelum dimanfaatkan oleh AI lain maupun peretas.
Meski membawa manfaat besar, kemampuan tersebut juga dinilai dapat menimbulkan risiko apabila digunakan untuk tujuan yang merugikan atau berkembang tanpa mekanisme pengawasan yang memadai.
Para perusahaan dan peneliti ini hanya ingin pemerintah memiliki ‘rem’ yang bisa digunakan jika suatu saat teknologi tersebut berkembang terlalu cepat.
Perkembangan ini menunjukkan bahwa tantangan AI ke depan bukan lagi sekedar meningkatkan kemampuan model, tetapi juga memastikan teknologi tersebut tetap aman, dapat dipercaya, dan digunakan secara bertanggung jawab, di tengah adopsi yang semakin luas.
