Telko.id – Common Sense Media merilis hasil penilaian risiko terhadap produk kecerdasan buatan (AI) Gemini milik Google. Organisasi nirlaba yang fokus pada keselamatan anak dalam penggunaan media dan teknologi itu menyebutkan bahwa meskipun Gemini mampu dengan jelas memberi tahu anak-anak bahwa ia adalah komputer, bukan teman, sistem ini masih dinilai berisiko tinggi bagi pengguna anak dan remaja.
Melansir dari laman Common Sense (12/9/2025), dalam laporannya, Common Sense menyoroti bahwa versi “Under 13” dan “Teen Experience” pada Gemini pada dasarnya merupakan versi dewasa dengan tambahan filter keamanan. Menurut organisasi tersebut, produk AI yang ditujukan untuk anak seharusnya dirancang dari awal dengan mengutamakan keselamatan anak, bukan sekadar modifikasi dari layanan orang dewasa. Sehingga Gemini akan berisiko untku digunakan secara tidak semestinya.
Hasil analisis juga menemukan bahwa Gemini masih dapat membagikan konten tidak pantas dan tidak aman untuk anak-anak, termasuk informasi tentang seks, narkoba, alkohol, hingga saran terkait kesehatan mental yang berpotensi membahayakan. Hal ini menjadi perhatian serius, mengingat AI dilaporkan terlibat dalam beberapa kasus bunuh diri remaja dalam beberapa bulan terakhir.
Baca juga:
- Google Kembangkan Fitur “Tell Me About This” untuk Gemini
- Gemini di Galaxy Z Fold7/Z Flip7 Bantu Konten Kreator Traveling
Kekhawatiran itu semakin relevan setelah bocoran informasi tersebut menyebut Apple tengah mempertimbangkan Gemini sebagai model bahasa besar (LLM) untuk menggerakkan Siri versi terbaru yang akan dirilis tahun depan. Jika benar, jutaan remaja akan berpotensi terpapat risiko yang sama, kecuali Apple menambahkan pengamanan ekstra pada AI miliknya.
Common Sense juga menyatakan bahwa produk Gemini untuk anak-anak dan remaja mengabaikan kebutuhan pengguna muda yang memerlukan panduan dan informasi berbeda dibandingkan pengguna dewasa. Akibatnya, kedua kategori tersebut diberi label “High Risk” dalam penilaian keseluruhan, meskipun Gemini telah ditambahkan filter keamanan.
“Gemini memang sudah tepat dalam beberapa hal mendasar, tetapi keliru pada detail. Sebuah platform AI untuk anak seharusnya diseuaikan dengan kondisi mereka, bukan menggunakan pendekatan seragam untuk anak-anak diberbagai tahap perkembangan,” ujar Senior Director AI Programs Common Sense, Robbie Torney.
“Agar AI aman dan efektif bagi anak-anak, ia harus dirancang dengan mempertimbangkan kebutuhan dan perkembangan mereka. Bukan sekedar versi modifikasi dari produk yang dibuat untuk orang dewasa,” tambahnya.
Sebagai rekomendasi dari laporan tersebut, anak-anak lima tahun kebawah, sebaiknya tidak menggunakan chatbot AI sama sekali. Anak usia 6-12 tahun hanya boleh menggunakannya dengan pengawasan orang dewasa. Anak usia 13-17 tahun boleh menggunakaan secara mandiri, namun terbatas hanya untuk tugas sekolah, pekerjaan kreatif, dan semacamnya. Tidak ada pengguna dibawah 18 tahun yang disarankan menggunakan chatbot AI untuk tujuan persahabatan, dukungan kesehatan mental / emosional secara intensif.
