Telko.id – Meta resmi meluncurkan fitur keamanan baru yang memungkinkan orang tua mendapatkan notifikasi jika anak remaja mereka menunjukkan gejala tekanan emosional saat berinteraksi dengan Meta AI. Langkah ini diambil untuk memberikan perlindungan ekstra bagi pengguna usia muda di platform tersebut.
Fitur ini secara khusus mendeteksi percakapan yang mengandung indikasi bunuh diri atau tindakan melukai diri sendiri. Jika sistem menemukan pola tersebut, Meta AI akan secara otomatis mengarahkan remaja ke layanan bantuan krisis dan mendorong mereka untuk berbicara dengan orang tua atau konselor.
“Saya percaya bahwa remaja berhak atas privasi mereka. Namun, saya juga percaya bahwa orang tua perlu diberi tahu apabila ada indikasi anak remaja mereka berisiko menyakiti diri sendiri,” ujar Larry Magid, CEO dan Co-Founder ConnectSafely, dalam pernyataan resmi Meta.
Kebijakan ini merupakan bagian dari upaya Meta untuk menyeimbangkan privasi remaja dengan kebutuhan keselamatan. Perusahaan raksasa teknologi itu memastikan setiap percakapan yang terindikasi berbahaya akan ditinjau secara manual sebelum peringatan dikirimkan kepada orang tua.
Peringatan tersebut kini aktif di Amerika Serikat, Inggris, Australia, dan Kanada. Meta berencana memperluas jangkauan fitur ini ke seluruh dunia pada akhir tahun ini. Fitur ini melengkapi sistem yang sudah ada, yaitu notifikasi ketika remaja berulang kali mencari kata kunci terkait bunuh diri di Instagram dalam waktu singkat.
Baca Juga:
Deteksi Risiko dan Respons Otomatis Meta AI
Meta bekerja sama dengan para ahli untuk mengidentifikasi percakapan AI mana yang perlu ditindaklanjuti dengan peringatan. Indikator utamanya adalah ketika remaja menunjukkan keinginan kuat untuk melukai diri sendiri, termasuk jika disampaikan secara tersirat. Sistem AI khusus dibangun untuk mengenali pola percakapan ini.
Perusahaan memahami kekhawatiran orang tua saat menerima notifikasi semacam itu. Oleh karena itu, setiap obrolan yang ditandai akan melalui proses peninjauan manual. Jika maksud remaja masih samar, Meta memilih untuk mengutamakan tindakan pencegahan dengan tetap memberi tahu orang tua.
“Meskipun ini berarti terkadang kami mengirimkan notifikasi saat tidak ada yang perlu dikhawatirkan, kami merasa ini adalah langkah awal yang tepat,” tulis Meta dalam pengumuman resminya. Perusahaan berjanji akan terus memantau dan mengevaluasi pendekatan ini.
Kolaborasi dengan Lebih dari 75 Ahli Kesehatan Mental
Meta tidak bekerja sendiri dalam mengembangkan fitur ini. Perusahaan meminta masukan dari lebih dari 75 tenaga medis profesional untuk menyempurnakan cara Meta AI merespons prompt tentang bunuh diri atau tindakan melukai diri sendiri dari remaja.
Para ahli yang memiliki spesialisasi dalam kesehatan mental remaja meninjau respons AI terhadap ratusan prompt. Mereka memberikan masukan tentang respons yang sudah sesuai, apa yang berjalan baik, dan bagaimana respons tersebut dapat ditingkatkan.
“Saya sangat terkesan dengan ketelitian proses peninjauan klinis yang dilakukan oleh Meta,” ujar Dr. Ji-yeon Lee, Psikolog Berlisensi AS dan Profesor Psikologi Konseling di Hankuk University of Foreign Studies, Korea Selatan.
Ia menambahkan bahwa peninjauan tidak hanya mengevaluasi respons instan, tetapi juga memperhatikan konteks percakapan yang lebih luas dan berbagai tingkatan risiko. Penyempurnaan berbasis skenario ini sangat penting untuk menghadirkan pengalaman AI yang lebih aman bagi remaja.
Selain konsultasi dengan para ahli eksternal, Meta juga memiliki AI Wellbeing Expert Council, Suicide and Self-Harm Advisory Group, serta Youth Advisors yang dibentuk langsung oleh perusahaan.
Batasan Konten Lebih Ketat untuk Akun Remaja
Akun Remaja secara otomatis menerapkan pengaturan konten untuk usia 13 tahun ke atas yang berlaku dalam percakapan dengan Meta AI. Melalui pengaturan bawaan ini, Meta AI dirancang memberikan respons sesuai usia dan tidak menanggapi prompt sensitif.
Sebagai contoh, Meta AI dilatih untuk tidak terlibat dalam percakapan romantis maupun seksual dengan remaja. AI juga tidak akan memberikan resep minuman beralkohol, melainkan mengarahkan mereka ke topik yang lebih aman. Pendekatan ini mirip dengan fitur keamanan yang diterapkan di berbagai platform digital untuk anak-anak.
Pada Oktober lalu, Meta meluncurkan fitur Limited Content sebagai opsi pengaturan lebih ketat bagi orang tua. Kini, pengaturan tersebut juga berlaku untuk pengalaman menggunakan Meta AI. Saat orang tua mengaktifkan fitur ini di Instagram, sistem akan membatasi jenis percakapan yang dapat dilakukan remaja dengan Meta AI.
Dalam mode Limited Content, Meta AI akan menolak memberikan respons terhadap kategori prompt yang lebih luas. Langkah ini meminimalkan potensi terjadinya percakapan yang kurang pantas antara remaja dengan asisten AI tersebut.
Koneksi ke Layanan Darurat untuk Kasus Berisiko Tinggi
Meta juga tengah mengembangkan sistem untuk memberikan peringatan kepada petugas berwenang atau layanan darurat jika seseorang terdeteksi berada dalam risiko tinggi dan mendesak terkait bunuh diri. Langkah ini melengkapi upaya yang sudah dilakukan di Facebook dan Instagram.
Tahun lalu, Meta telah mengirimkan lebih dari 19.000 rujukan di seluruh dunia untuk membantu petugas penyelamat memeriksa kondisi pengguna yang berpotensi melakukan bunuh diri. Angka ini menunjukkan skala serius dari masalah kesehatan mental di platform digital.
Sistem baru ini akan menjangkau pengguna dewasa maupun remaja yang menunjukkan risiko bunuh diri dalam percakapan dengan Meta AI. Kemampuan untuk menghubungi layanan darurat ini menjadi lapisan perlindungan terakhir jika sistem deteksi dini tidak mencukupi.
Perkembangan ini sejalan dengan tren industri teknologi yang semakin peduli pada fitur keselamatan pengguna. Beberapa perusahaan teknologi lain juga telah mengembangkan sistem deteksi dini untuk masalah kesehatan mental.
Meta berkomitmen untuk terus menyempurnakan fitur ini berdasarkan masukan dari para ahli dan pengalaman pengguna. Perusahaan juga membuka pintu bagi kolaborasi lebih lanjut dengan organisasi kesehatan mental di berbagai negara.
Dengan peluncuran fitur ini, Meta berharap dapat memberikan rasa aman bagi orang tua tanpa mengorbankan privasi remaja secara berlebihan. Langkah ini menjadi contoh bagaimana teknologi terkini dapat digunakan untuk tujuan kemanusiaan.
Ke depannya, Meta akan terus memantau efektivitas fitur ini dan melakukan penyesuaian berdasarkan data yang terkumpul. Perusahaan juga berencana memperluas fitur serupa ke platform lain yang dimilikinya.
Bagi orang tua yang ingin mengaktifkan fitur pengawasan ini, mereka dapat mengakses menu pengaturan orang tua di Instagram. Fitur ini tersedia secara gratis dan tidak memerlukan langganan tambahan.
Meta mengingatkan bahwa fitur ini bukan pengganti komunikasi langsung antara orang tua dan anak. Perusahaan justru berharap fitur ini menjadi pemicu percakapan yang lebih terbuka tentang kesehatan mental di dalam keluarga.
Para ahli kesehatan mental menyambut baik langkah Meta ini. Mereka menilai bahwa pendekatan proaktif seperti ini dapat menyelamatkan nyawa dan mencegah tragedi yang tidak diinginkan di kalangan remaja.
