Telko.id – Peringatan akan AI lepas kendali dan memicu bencana bagi manusia menguat sepanjang tahun 2026, melansir dari detik pada Selasa, 15 September 2026. Tanda bahaya bahkan disuarakan oleh para pemimpin pengembangan teknologi tersebut, termasuk bos OpenAI Sam Altman dan petinggi Anthropic Dario Amodei.
Pekan ini, peneliti yang pernah bekerja di kedua perusahaan tersebut, Jacob Coxon, keluar dari Anthropic untuk memberi peringatan bahwa AI dapat membunuh manusia pada akhir dekade ini, dengan menyebutnya berpotensi menjadi sistem manusia super yang dapat meretas apa saja, merevolusi bidang apa pun dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata.
Seiring melesatnya AI menuju Artificial General Intelligence, berikut adalah sejumlah teori bagaimana kebangkitan mesin berpotensi memusnahkan manusia, sebagaimana dikutip dari NY Post — perlu diingat, ini hanyalah skenario dari sejumlah ahli.
Skenario Mengerikan Jika AI Sampai Kuasai Dunia
Manusia mengotomatisasi berbagai pekerjaan yang hampir semuanya dikendalikan internet, domain di mana AI memiliki akses dan kendali terbesar. “Sistem AI dapat menyerang jaringan listrik, jaringan transportasi, hingga pasar keuangan,” kata Stuart Russell, profesor ilmu komputer di UC Berkeley.
Baca Juga:
- China Tepis Seruan Bos AI AS untuk Perlambat Pengembangan AI
- Eks Peneliti Anthropic Mundur, Ungkap Risiko AI bagi Manusia
AI berpotensi meretas hampir semua perangkat, mengambil alih instalasi pengolahan air, melumpuhkan listrik dan menara telepon seluler, meretas lampu lalu lintas, hingga mengosongkan dana dari bank. Manusia bahkan bisa direkrut tanpa sadar untuk sabotase. “AI takkan kesulitan menghasilkan uang, entah melalui perdagangan finansial atau memberikan layanan untuk orang lain,” ujar Patri Friedman, pendiri Pronomos Capital.
Risiko Senjata Biologis dan Nuklir
Kekhawatiran juga menyasar potensi penyalahgunaan AI untuk menciptakan senjata biologis. “Lima tahun ke depan, sepele bagi AI untuk merancang obat baru guna membantu kita atau virus untuk membunuh kita semua,” cetus Friedman. Ancaman lain datang dari kapabilitas nuklir, dengan Anthony Aguirre, CEO Future of Life Institute, memperingatkan bahwa sistem senjata nuklir dilindungi baik terhadap ancaman manusia, namun bukan terhadap peretasan AI super.
Contoh nyata rentannya fasilitas nuklir terlihat dalam kasus Stuxnet pada 2010, worm komputer yang berhasil menghancurkan hampir 1.000 mesin sentrifugal di fasilitas pengayaan uranium Iran meski fasilitas tersebut tertutup dari internet.
Simulasi Perang Menunjukkan Kecenderungan Menekan Tombol Nuklir
Penulis AI Valley, Gary Rivlin, mencatat agen AI yang bermain simulasi perang cenderung menekan tombol nuklir, hal yang tak dilakukan manusia karena memahami konsekuensinya. Hal ini dibuktikan lewat penelitian King’s College London yang pada Februari lalu menggunakan ChatGPT-5.2, Claude Sonnet 4, dan Gemini 3 Flash dalam 21 simulasi perang. “95 persen permainan tersebut melihat penggunaan nuklir taktis dan 76 persen mencapai ancaman nuklir strategis,” catat Profesor Kenneth Payne dari Departemen Studi Pertahanan King’s College London.
Militer Sudah Sangat Bergantung pada AI
Militer sudah sangat maju dalam penggunaan AI untuk menyatukan informasi dari radar, citra satelit, drone, dan komunikasi elektronik menjadi gambaran operasi medan tempur. Teknologi AI digunakan untuk memilih target selama Operasi Epic Fury, sementara pemerintah Iran mengklaim rudal jelajahnya dipandu AI, dan pemerintah Rusia menyatakan menggunakan drone yang sepenuhnya dipandu AI tanpa keterlibatan manusia di Ukraina.
Kondisi ini dinilai pada dasarnya mempersiapkan jalan bagi sistem AI yang tidak sejalan dengan kepentingan manusia untuk menyalahgunakan sistem senjata yang sudah dirancang manusia sendiri untuk membunuh manusia.
