Telko.id – ChatGPT akhir-akhir ini ramai dibincangkan. Sebuah chatbot AI yang menggunakan kecerdasan buatan untuk mensimulasikan percakapan manusia.
Para ahli dan pengamat di bidang teknologi telah mengkhawatirkan dampak dari alat bantu pembuatan konten yang dihasilkan oleh AI terhadap keamanan jaringan sejak diperkenalkan pada November 2022. Alat ini sangat efisien dan lebih sulit dideteksi daripada aktivitas yang dilakukan manusia.
Dalam konferensi keamanan Black Hat dan Defcon baru-baru ini, sebuah demonstrasi dari peretasan manusia dengan AI-as-a-service (Hacking Humans with AI as a Service) mengungkapkan bagaimana AI mampu membuat email phishing yang lebih baik dan pesan spear phishing yang sangat efektif daripada manusia.
Para peneliti yang menggunakan platform GPT-4 OpenAI yang dikombinasikan dengan produk AI-as-a-service lainnya yang berfokus pada analisis kepribadian menghasilkan email phishing yang disesuaikan dengan latar belakang dan karakter kolega mereka.
Baca juga : Bard, Jawaban Google Atas Munculnya ChatGPT
Akhirnya, para peneliti mengembangkan sebuah saluran yang dapat membantu menyempurnakan email sebelum mencapai target mereka.
Yang mengejutkan para peneliti tersebut, platform tersebut juga secara otomatis memberikan informasi spesifik, seperti menyebutkan hukum/undang-undang Singapura ketika diinstruksikan untuk membuat konten yang ditujukan untuk masyarakat Singapura.
Pembuat ChatGPT dengan jelas menyatakan bahwa alat yang digerakkan oleh AI ini memiliki kemampuan bawaan untuk menentang premis yang salah serta menolak permintaan yang tidak etis.
Sistem ini tampaknya memiliki pagar pembatas bawaan yang dirancang untuk mencegah segala jenis kegiatan kriminal.
Namun, dengan beberapa penyesuaian, AI tersebut dapat menghasilkan email phishing yang nyaris sempurna yang menyerupai pesan dari manusia.
Hal ini dapat berarti lebih banyak masalah bagi pasar yang sangat rentan terhadap serangan siber seperti Indonesia. Data BSSN menyebutkan bahwa selama tahun 2022 terdapat 976.429.996 aktivitas anomali trafik. Selain itu, phishing diprediksikan akan menjadi salah satu serangan yang marak terjadi di tahun 2023.
Dan, kemudahan mengembangkan pesan phishing yang ditawarkan ChatGPT dapat meningkatkan risiko serangan tipe tersebut secara signifikan.
“Lanskap peretasan yang semakin cerdas dan canggih semakin mendorong pentingnya industri keamanan siber untuk memiliki sumber daya yang setara untuk melawan serangan bertenaga AI,” kata Sean Duca, Vice President dan Regional Chief Security Officer Palo Alto Networks untuk Asia Pasifik & Jepang membagikan pendapatnya.
“Apalagi, dalam jangka panjang, industri ini tidak dapat lagi hanya mengandalkan sekelompok individu pemburu ancaman siber yang mencoba memitigasi serangan secara sporadic,” ucap Duca menambahkan.
Seiring dengan terus berkembangkannya AI, bisnis dan individu akan terus menghadapi sejumlah tantangan dalam menavigasi lanskap keamanan siber AI.
Hal yang dibutuhkan saat ini adalah mengambil tindakan cerdas untuk menetralisir ancaman yang terus berkembang.
Serangan yang didukung AI semakin menjadi bagian dari kehidupan sehari-hari, maka sektor bisnis, pemerintah, dan individu perlu mengandalkan teknologi yang sedang berkembang seperti AI dan ML untuk menghasilkan respons otomatis terhadap serangan-serangan tersebut.
Selain itu, secara khusus, diperlukan fokus yang cukup besar untuk menemukan keseimbangan antara mesin, manusia, dan pertimbangan etis.
“Menetapkan kebijakan perusahaan sangat penting untuk melakukan bisnis secara etis, sekaligus meningkatkan keamanan siber. Kita perlu membangun tata kelola dan kerangka hukum yang efektif, yang memungkinkan kepercayaan yang lebih besar pada penerapan teknologi AI di sekitar kita agar aman, andal, dan berkontribusi pada dunia yang adil dan berkelanjutan,”Tutup Duca.
Oleh karena itu, Duca menyebutkan bahwakeseimbangan antara AI dan manusia akan muncul sebagai faktor kunci menuju keamanan siber yang sukses di mana kepercayaan, transparansi, dan akuntabilitas melengkapi manfaat mesin. (Icha)