Telko.id – Perusahaan kecerdasan buatan (AI) Anthropic memutuskan untuk tidak merilis salah satu model AI terbarunya, Claude Mythos, ke publik karena dinilai memiliki tingkat risiko yang terlalu tinggi.
Keputusan ini menunjukkan bahwa perkembangan AI kini tidak hanya soal kemampuan, tetapi juga menyangkut aspek keamanan dan potensi penyalahgunaan.
Anthropic sendiri hanya akan memberikan akses model AI ini ke sejumlah perusahaan teknologi dan keamanan siber terbesar untuk menahan laju perlombaan senjata berbasis AI yang dimanfaatkan oleh para peretas.
Perusahaan menyatakan bahwa raksasa industri seperti Amazon, Apple, Cisco, Google, JPMorgan Chase, dan Microsoft akan mendapatkan akses ke model tersebut untuk memperkuat kemampuan pertahanan siber dan mengantisipasi ancaman yang semakin kompleks.
Model tersebut diklaim memiliki kemampuan yang sangat canggih, termasuk dalam memahami sistem kompleks dan menghasilkan instruksi teknis secara detail.
Hal ini mencakup identifikasi bug dalam perangkat lunak perusahaan-perusahaan tersebut serta pengujian efektivitas teknik peretasan tertentu terhadap produk-produk mereka.
Baca Juga:
Namun di sisi lain, kemampuan ini juga membuka peluang untuk disalahgunakan, seperti membantu pembuatan serangan siber atau aktivitas berbahaya lainnya jika jatuh ke tangan yang tidak bertanggung jawab.
Menurut para ahli, kecepatan dan skala yang dimiliki agen AI dalam mendeteksi kerentanan jauh melampaui kemampuan manusia pada umumnya dan menandai perubahan besar dalam bidang keamanan siber.
“Kami merasa tidak nyaman untuk merilis hal ini secara umum,” kata Logan Graham, yang memimpin tim di Anthropic yang bertugas mengelola sistem pertahanan model AI-nya, kepada CNN, Rabu (8/4).
“Kami berpendapat bahwa masih banyak yang harus dilakukan untuk memastikan adanya langkah-langkah pengamanan yang memadai,” lanjutnya.
Para petinggi Anthropic berharap bahwa dengan merilis Mythos kepada perusahaan-perusahaan yang melayani miliaran pengguna, hal ini akan membantu menciptakan kondisi yang setara dalam menghadapi para penyerang.
Tujuannya adalah untuk mencegah agar celah keamanan besar pada peramban internet dan sistem operasi populer tidak diungkap ke publik.
Anthropic telah mengumumkan bahwa perusahaan dan organisasi lain, termasuk produsen chip Broadcom dan Nvidia, organisasi nirlaba Linux Foundation, serta penyedia layanan keamanan siber CrowdStrike dan Palo Alto Networks, akan memiliki akses ke Mythos.
“Jika model-model ini akan sehebat ini – dan mungkin jauh lebih baik lagi – dalam menangani semua tugas keamanan siber, kita harus bersiap-siap secepatnya,” kata Graham.
“Dunia akan sangat berbeda jika kemampuan model-model ini benar-benar menjadi bagian dari kehidupan kita,” tambahnya.
Kasus ini juga menyoroti dilema besar di industri AI saat ini. Di satu sisi, perusahaan berlomba menghadirkan model yang semakin powerful, namun di sisi lain mereka harus memastikan teknologi tersebut tidak membawa dampak negatif bagi masyarakat luas.
