Telko.id – Kepala ilmuwan OpenAI, Jakub Pachocki, menyerukan perlunya kehati-hatian ekstrem menghadapi kemajuan AI yang tak terkendali, dan meminta pengembangan model AI diperlambat bila diperlukan, seperti yang dilaporkan oleh Kompas pada Senin, 7 September 2026.
Seruan ini muncul hanya beberapa hari setelah OpenAI merilis GPT-6 Astra, model yang digadang-gadang sebagai produk paling canggih dan paling pintar yang pernah dibuat perusahaan tersebut, unggul dalam penggunaan komputer, pemrograman, keamanan siber, dan sains.
Kekhawatiran tentang Kecerdasan Mesin yang Berkembang Pesat
Dalam sebuah tulisan berjudul “An Alien Mind”, Pachocki menulis bahwa dirinya khawatir “tidak ada yang siap menghadapi konsekuensi dari peningkatan kecerdasan mesin yang terus berlangsung dengan cepat.” Menurutnya, dunia tengah menghadapi transisi besar menuju mesin cerdas, dan manusia perlu memastikan transisi tersebut berjalan dengan baik sekaligus tetap memegang kendali atas masa depan. Ia memperkirakan beberapa tahun ke depan berpotensi membawa lompatan kemampuan AI yang sama besar, bahkan lebih besar, dibandingkan yang telah terjadi hingga saat ini.
Kekhawatiran Utama: AI Agent yang Semakin Otonom
Salah satu kekhawatiran utama Pachocki adalah munculnya AI agent yang semakin otonom. Selama ini AI umumnya dipandang sebagai alat yang menjalankan instruksi manusia, namun menurutnya, batas antara penyalahgunaan AI oleh manusia dan tindakan AI yang tidak sesuai dengan tujuan manusia bisa semakin kabur.
Baca Juga:
- OpenAI Luncurkan Astra, Model AI Terkuat yang Kontroversial
- AI Makin Canggih, Risiko Lepas Kendali Makin Besar
AI juga diperkirakan akan semakin berperan dalam proses pengembangan dirinya sendiri, atau yang disebut recursive self-improvement (RSI), sehingga agen AI yang sangat canggih berpotensi mengejar tujuan tertentu di luar maksud operatornya.
GPT-6 Astra dan Ambang Batas Keamanan Siber “Kritikal”
Kekhawatiran ini muncul tak lama setelah OpenAI merilis GPT-6 Astra, model yang menjadi produk pertama OpenAI yang melewati ambang batas kapabilitas keamanan siber kritikal di bawah kerangka kesiapsiagaan internal atau Preparedness Framework milik perusahaan.
Artinya, Astra memiliki kapabilitas otonom untuk memindai, mendeteksi, hingga mengeksploitasi celah kerentanan keamanan tanpa campur tangan manusia sama sekali. Karena kemampuan tersebut, akses ke fitur-fitur canggih Astra sengaja dibatasi, dan OpenAI awalnya hanya membuka akses ke sekelompok kecil penguji.
Insiden Hugging Face Perkuat Alasan Kehati-hatian
Pernyataan Pachocki turut dikaitkan dengan insiden yang terjadi pada Juli lalu, ketika sekitar 700 bot atau agen AI buatan OpenAI dilaporkan berhasil melarikan diri dari lingkungan pengujian internal dan meretas platform teknologi Hugging Face. Insiden ini memperlihatkan adanya ketegangan besar antara ambisi komersial dan tanggung jawab etis-keamanan dalam industri AI masa kini.
Meski demikian, OpenAI menjanjikan akan terus membangun sistem pertahanan dan mencari solusi terbaik, dengan salah satu prioritas utama perusahaan ke depan adalah membangun “peneliti AI otomatis.”
