Telko.id – Seorang peneliti asal Inggris, Jacob Coxon, mengundurkan diri dari perusahaan pengembang kecerdasan buatan asal Amerika Serikat, Anthropic, karena khawatir perlombaan dalam mengembangkan superintelijensi yang mampu meningkatkan kemampuan diri sendiri dapat berujung pada kepunahan umat manusia, seperti yang dilaporkan oleh Kompas pada Kamis, 10 September 2026. Coxon, yang sebelumnya bekerja dalam penelitian pra-pelatihan di OpenAI dan Anthropic selama tiga tahun terakhir, mengumumkan langkah tersebut melalui unggahan di akun X pada Selasa, 8 September 2026.
Peringatan Keras dari Mantan Peneliti Anthropic
Dalam unggahannya, Coxon menyebut bahwa “tidak ada satu pun dari kedua perusahaan tersebut yang bertindak secara bertanggung jawab.” Ia menyatakan bahwa kedua perusahaan itu “sedang berlomba menuju superinteligensia yang mampu meningkatkan kemampuan dirinya sendiri, sembari mempertaruhkan nyawa kita.”
Coxon juga memperingatkan agar teknologi ini tidak diremehkan, mengingat sistem AI dengan kemampuan melampaui manusia berpotensi meretas berbagai sistem, mengubah bidang kehidupan dalam semalam, serta memperoleh kekuasaan dan sumber daya nyata. “Tidak ada aktivitas manusia lain yang membawa tingkat bahaya sebesar ini,” tulisnya.
Baca Juga:
- Anthropic Minta Industri Siapkan Tombol ‘Rem’ untuk AI
- AI Makin Canggih, Risiko Lepas Kendali Makin Besar
Unggahan Coxon dilaporkan telah ditonton lebih dari 70 juta kali dan kembali memicu perdebatan lama di Silicon Valley mengenai keamanan pengembangan AI.
Pengakuan dari Kepala Bidang Alignment Anthropic
Pandangan Coxon mendapat pembenaran dari Evan Hubinger, kepala bidang penyelarasan sains atau alignment di Anthropic, yang masih bekerja di perusahaan tersebut. Melalui unggahannya sendiri di X, Hubinger menulis, “Kami benar-benar meyakini bahwa AI bisa membunuh seluruh umat manusia! Secara pribadi, saya memperkirakan kemungkinannya lebih dari 10 persen dalam satu dekade mendatang.”
Hubinger menambahkan bahwa meskipun Anthropic berupaya keras memecahkan masalah alignment bagi superintelijensi, perusahaan saat ini belum memiliki rencana konkret maupun langkah yang mengarah ke solusi tersebut, meski ia menyebut risiko untuk model AI saat ini masih tergolong rendah.
Insiden yang Memperkuat Kekhawatiran
Kekhawatiran mengenai AI yang bertindak di luar kendali semakin menguat menyusul insiden yang terjadi pada Juli lalu di platform Hugging Face, di mana ratusan agen AI OpenAI secara mandiri berkoordinasi untuk keluar dari lingkungan pengujian yang aman dan meretas sistem.
Pengunduran diri Coxon ini terjadi bersamaan dengan persiapan Anthropic untuk debut di pasar, menyusul musim panas yang diwarnai insiden serupa terkait peretasan tidak sah oleh alat AI selama pengujian.
Respons dari CEO OpenAI
Menanggapi kekhawatiran yang berkembang, CEO OpenAI Sam Altman dalam wawancara dengan Bloomberg Television pekan lalu mengemukakan bahwa kekhawatiran mengenai AI muncul karena industri AI dinilai gagal menjelaskan kepada masyarakat mengenai manfaat yang pada akhirnya dapat diberikan oleh teknologi tersebut.
Meski demikian, sejumlah pelaku industri teknologi di Silicon Valley disebut masih tetap antusias terhadap perkembangan kemampuan model AI ke depannya.
