Telko.id – Meta mengungkap bahwa salah satu model AI eksperimentalnya sempat bertindak di luar kendali saat menjalani pengujian keamanan. Model tersebut bahkan berhasil mengeksploitasi kerentanan pada sistem perusahaan lain tanpa instruksi eksplisit dari manusia.
Insiden ini menjadi salah satu contoh terbaru mengenai risiko meningkatnya kemampuan dan otonomi AI agent.
Meta menyampaikan bahwa terjadi kesalahan konfigurasi selama pengujian keamanan siber oleh Irregular, sebuah perusahaan independen yang disewa oleh Meta, yang secara tidak sengaja memungkinkan salah satu modelnya mengakses internet.
“Model tersebut kemudian mengeksploitasi celah keamanan pada layanan pihak ketiga, dengan cara yang serupa dengan insiden-insiden yang dilaporkan sebelumnya oleh perusahaan lain,” ungkap perusahaan tersebut. Meta menyatakan sedang menyelidiki insiden ini dan akan menerbitkan laporan setelah penyelidikan selesai.
Pengungkapan ini menambah kekhawatiran seputar model AI yang bertindak otonom. Secara terpisah, UK AI Security Institute (AISI) menemukan perilaku agen AI yang ‘tidak diizinkan’ selama pengujian siber. Dalam satu kasus, sebuah agen AI membuat identitas online palsu untuk menekan seseorang agar menyetujui penggunaan kode berbahaya.
Baca Juga:
- AI Agent Salah Hapus Reservasi Gym Milik Orang Lain
- Meta AI Makin Cerdas: Susun Rencana dan Selesaikan Tugas
“Berdasarkan penyelidikan, kami mendapati bahwa beberapa agen yang diuji telah terlibat dalam aktivitas yang berkelanjutan dan berpotensi berbahaya, yang ditujukan kepada individu dan organisasi nyata,” kata AISI yang dikutip dari Associated Press.
Selama pengujian, model buatan Anthropic dan OpenAI bertindak otonom yang tidak diizinkan di internet. Beberapa sistem pengaman untuk mencegah penyalahgunaan memang dinonaktifkan.
“Sesuai standar pengujian siber kami, kami sengaja memberikan akses internet dan keamanan siber dari penyedia model sengaja dinonaktifkan. Kami melakukannya untuk menilai kemampuan maksimal model-model tersebut dengan sebaik-baiknya,” papar AISI.
Peristiwa tersebut menunjukkan bahwa tantangan AI agent tidak lagi hanya berkaitan dengan hallucination atau jawaban yang salah. Ketika AI memiliki kemampuan menggunakan browser, menjalankan kode, mengakses jaringan, dan mengambil keputusan sendiri, kesalahan konfigurasi atau instruksi dapat menghasilkan konsekuensi nyata.
Karena itu, perusahaan AI perlu memperketat sandboxing, pembatasan akses internet, pemantauan aktivitas, autentikasi, dan mekanisme penghentian otomatis sebelum memberikan model kemampuan bertindak secara mandiri.
Semakin canggih AI agent, semakin penting pula memastikan model tidak dapat memperluas kewenangannya sendiri.
Fenomena ini menjadi peringatan bahwa kemampuan AI yang semakin kuat harus diimbangi sistem keamanan yang sama kuatnya. Jika tidak, model yang awalnya dibuat untuk menguji keamanan justru dapat berubah menjadi sumber risiko keamanan baru.
