Telko.id – F5 dan Nvidia memperkuat keamanan aplikasi kecerdasan buatan (AI) melalui integrasi F5 AI Guardrails dengn Nvidia NeMi Guardrails. Kolaborasi ditujukan untuk membantu perusahaan menghadapi risiko keamanan seperti promp injection, kebocoran data, paparan informasi pribadi, dan keluaran AI yang berbahaya ketika aplikasi AI mulai digunakan di lingkungan produksi.
Penggunaan AI di perusahaan semakin kompleks karena organisasi dapat menjalankan berbagai model dan framework AI di lingkungan hybrid multicloud.
Menurut F5, penggunaan kontrol keamanan yang terpisah pada setiap aplikasi dapat membuat kebijakan tidak konsisten sekaligus menyulitkan tim keamanan memantau aktivitas AI secara menyeluruh.
Chief Product Officer F5 Kunal Anand mengatakan persoalan yang dihadapi perusahaan bukan semata-mata kekurangan aplikasi AI, tetapi bagaimana menerapkan standar keamanan dan tata kelola yang konsisten terhadap seluruh aplikasi tersebut.
“Perusahaan tidak kekurangan aplikasi AI. Mereka kekurangan keamanan dan governance yang konsisten di seluruh aplikasi tersebut,” kata Anand dalam keterangannya.
Baca Juga:
- Jepang Bangun AI Factory Raksasa dengan Dukungan Nvidia
- Firmus Gandeng Nvidia Bangun AI Factory Raksasa di Batam
Menurut dia, fragmentasi kontrol keamanan dapat menambah risiko dan kompleksitas ketika AI mulai digunakan dalam sistem produksi.
Integrasi F5 AI Guardrails dan Nvidia NeMo Guardrails dirancang untuk menyediakan satu lapisan pemeriksaan terhadap lalu lintas AI sekaligus menerapkan kebijakan keamanan secara terpusat.
Sistem ini memeriksa prompt yang dikirim pengguna dan respons yang dihasilkan large language model (LLM) secara real-time.
Mekanisme tersebut dirancang untuk mendeteksi dan mengurangi risiko prompt injection, penyebaran data tanpa izin, paparan informasi pribadi atau PII, serta keluaran AI yang berbahaya.
Sementara itu, Nvidia NeMo Guardrails menyediakan framework terbuka yang dapat diprogram untuk menerapkan kebijakan keselamatan dan keamanan pada aplikasi AI.
Integrasi dengan F5 membuat lapisan keamanan tersebut dapat ditempatkan secara terpisah dari framework AI yang digunakan perusahaan.
F5 menyebut pendekatan tersebut memungkinkan setiap komponen, mulai dari framework, microservices, orkestrasi hingga fungsi keamanan, diperbarui atau ditingkatkan secara independen sesuai kebutuhan.
Senior Director AI Networking and Security Solutions, Ecosystem and Marketing NVIDIA Ash Bhalgat mengatakan NeMo Guardrails menyediakan framework terbuka yang dapat diprogram untuk menerapkan kebijakan keselamatan dan keamanan pada aplikasi AI.
“Integrasi dengan F5 AI Guardrails memperluas jangkauan perlindungan yang dapat dimanfaatkan oleh pelanggan untuk mengamankan prompts dan respons LLM saat mereka membawa AI agent ke fase production,” ujar Bhalgat.
Pendekatan ini juga bersifat model-agnostic. Artinya, perusahaan dapat mengganti model AI atau menambahkan aplikasi baru tanpa harus membangun kembali sistem keamanan dari awal.
Hal ini penting karena teknologi AI berkembang cepat dan perusahaan dapat menggunakan beberapa LLM sekaligus sesuai kebutuhan bisnis.
