Telko.id – Perusahaan kecerdasan buatan (AI) di balik chatbot Claude, Anthropic, mengajak para pengembang AI terdepan untuk menyiapkan mekanisme perlambatan atau bahkan jeda sementara pengembangan AI jika teknologi tersebut mulai menunjukkan kemampuan untuk mengembangkan penerusnya sendiri tanpa campur tangan manusia.
Permintaan tak biasa itu disampaikan perusahaan bervaluasi 1 triliun dollar AS ini lewat blog resmi mereka, Kamis (4/6/2026).
Langkah ini muncul setelah Anthropic menilai kemajuan AI saat ini bergerak jauh lebih cepat dibandingkan kesiapan regulasi dan penelitian keamanan yang mengawasinya.
Istilah teknisnya adalah recursive self-improvement alias perbaikan diri rekursif.
Konsepnya sederhana, tapi sangat mengerikan. Sebuah AI mampu meningkatkan kemampuannya sendiri tanpa intervensi manusia, lalu hasil peningkatan itu akan meningkatkan dirinya lagi, dan begitu seterusnya dalam siklus yang semakin cepat.
Baca Juga:
- Anthropic Tahan Rilis AI Mythos karena Berisiko Tinggi
- Anthropic Bawa Claude ke Microsoft Word, Tantang Copilot!
Menurut Anthropic, teknologi seperti ini berpotensi membawa manfaat besar bagi bidang sains, kesehatan, dan penelitian. Namun di sisi laim, kemampuan tersebut juga dapat meningkatkan risiko manusia kehilangan kendali terhadap sistem AI yang semakin canggih.
Di kalangan peneliti AI, ambang batas ini telah lama dianggap sebagai penanda potensi bahaya dan goncangan sosial yang masif.
“Kami percaya akan baik bagi dunia jika ada opsi untuk memperlambat atau menghentikan sementara pengembangan AI tingkat lanjut, agar struktur sosial dan riset penyelarasan bisa mengejar laju perkembangan teknologi ini,” tulis Marina Favaro dan Jack Clark, dua penulis blog tersebut.
Clark sendiri merupakan salah satu pendiri Anthropic dan kepala bidang manfaat publik di perusahaan itu.
Clark menyebut ambang batas itu bisa tercapai dalam waktu dua tahun, bahkan mungkin lebih cepat.
“Fenomena teknologi seperti itu belum pernah ada sebelumnya, tapi saya yakin ini bisa terjadi dalam dua tahun ke depan, mungkin lebih cepat,” kata Clark.
Menurut Clark, tanpa adanya perlambatan global yang terkoordinasi, dunia kini terjebak dalam situasi yang riskan. Teknologi yang amat kuat sedang dikembangkan dengan kecepatan luar biasa oleh banyak pihak di banyak negara.
“Semuanya terkunci dalam persaingan di mana rivalitas komersial dan geopolitik menenggelamkan aspek eksistensial dari teknologi yang sedang dibangun ini,” tambahnya, mengutip dari The Wall Street Journal.
Perdebatan ini menunjukkan bahwa fokus pengembangan AI kini tidak lagi hanya soal kemampuan model yang semakin pintar, tetapi juga soal bagaimana memastikan teknologi tersebut tetap aman dan berada dalam kendali manusia.
Sementara itu, sebagai pengguna dari kecerdasan buatan, isu ini menjadi pengingat bahwa kemajuan AI yang sangat cepat juga membawa tantangan baru yang perlu diantisipasi sejak dini.
