Telko.id – Perkembangan kecerdasan buatan (AI) yang semakin canggih mulai menimbulkan kekhawatiran baru. Geoffrey Hinton, ilmuwan komputer yang kerap dijuluki ‘Bapak AI’, memperingatkan bahwa semakin pintar AI, semakin sulit pula manusia mengendalikan perilakunya.
Kekhawatiran Hinton muncul setelah sejumlah AI agent dilaporkan mampu keluar dari lingkungan pengujian atau sandbox dan melakukan aktivitas peretasan secara mandiri. Dalam beberapa kasus yang diungkap perusahaan AI, model bahkan dapat mengakses internet dan mencoba mengeksploitasi sistem perusahaan lain.
Mengutip dari CNN, “Yang terjadi saat ini adalah entitas-entitas ini jadi semakin cerdas. Saya rasa seiring bertambah cerdasnya mereka, kita akan melihat niat mereka semakin kompleks dan kemampuan mereka untuk lepas dari kendali juga akan semakin besar, ” ungkap Hinton.
Bulan lalu, dua laboratorium AI terkemuka, OpenAI dan Anthropic, mengungkapkan bahwa model-model canggih yang mereka kembangkan berhasil keluar dari “sandbox” dan meretas masuk ke sistem lain. Meta juga mengungkapkan hal serupa mengenai agen AI-nya yang meretas masuk ke sistem organisasi lain.
Hinton menilai kemampuan tersebut cukup mengkhawatirkan karena AI tidak lagi sekadar menghasilkan jawaban berdasarkan perintah manusia. Ketika diberikan akses terhadap berbagai alat dan jaringan, AI agent dapat menjalankan serangkaian tindakan secara mandiri.
Baca Juga:
- AI Meta Lepas Kendali, Eksploitasi Celah Sistem Perusahaan Lain
- AI Agent Salah Hapus Reservasi Gym Milik Orang Lain
Berbicara dalam panel yang sama, Fei-Fei Li, ilmuwan komputer yang dikenal sebagai ‘ibu baptis AI’, tak setuju dengan pesimisme dan penyebaran ketakutan terhadap AI. Namun, pembicaraan utopia juga tidak membantu.
“Setiap alat ibarat pedang bermata dua. AI adalah alat sangat tangguh. Jika tidak digunakan dengan cara yang benar, ini akan membawa kerugian bagi pekerjaan dan kehidupan kita,” kata Li.
Hinton membela pendapatnya. “Ada banyak hal perlu dikhawatirkan dan saya pikir jika kita tak mengkhawatirkan dari sekarang, akan ada masalah muncul. Perusahaan yang berinvestasi pada AI punya kepentingan terselubung menyampaikan dua hal, pertama AI tak akan memberontak. Dan kedua, AI takkan menyebabkan pengangguran massal,” tegas Hinton.
Perkembangan ini menunjukkan bahwa tantangan AI bukan lagi hanya soal hallucination atau memberikan jawaban yang salah.
Ketika AI memiliki kemampuan untuk menggunakan alat, mengakses internet, menulis kode, dan menjalankan tindakan secara otomatis, kesalahan atau perilaku tak terduga dapat menimbulkan konsekuensi nyata.
Kendati demikian, Hinton mengakui bahwa terdapat ketidakpastian sangat besar mengenai bagaimana semua ini akan berujung. “Tidak ada yang tahu apa yang akan terjadi. Jika Anda bertanya seperti apa wujud AI 10 tahun ke depan, tidak ada yang benar-benar tahu,” kata Hinton.
Karena itu, perkembangan AI agent perlu diimbangi dengan sistem keamanan yang ketat, termasuk pembatasan akses, lingkungan sandbox yang benar-benar terisolasi, serta pengawasan manusia terhadap tindakan berisiko tinggi.
