Categories: TREND&TECHNOLOGY

Microsoft Perkenalkan Alat Sebagai Pendeteksi Predator Seks Anak

Telko.id – Dalam dunia maya banyak yang mengintai anak-anak. Itu sebabnya, Microsoft mengeluarkan alat yang dimasukan dalam layanan permainan Xbox untuk memindai obrolan teks online dan mendeteksi orang dewasa yang ingin merawat dan mengeksploitasi anak-anak untuk tujuan seksual.

Nama kode Project Artemis, teknik menyisir pesan sejarah dan mencari pola dan karakteristik indikatif sebelum menetapkan peringkat probabilitas. Itu kemudian dapat digunakan oleh perusahaan untuk memutuskan percakapan mana di platform mereka yang harus dilihat lebih dekat oleh moderator manusia, tulis Courtney Gregoire, kepala petugas keamanan digital Microsoft, dalam sebuah posting blog.

Perusahaan-perusahaan teknologi sedang bergulat dengan cara memilih gelombang pornografi dan eksploitasi anak yang meningkat secara online karena gambar dan teks jahat membanjiri moderator dan aplikasi obrolan pribadi membuat deteksi menjadi lebih sulit.

Perusahaan-perusahaan di industri ini melaporkan 45 juta gambar online tentang pelecehan seksual anak pada 2018, rekor tertinggi, New York Times melaporkan pada September. Predator dewasa menggunakan fungsi obrolan bawaan pada permainan video populer dan aplikasi perpesanan pribadi untuk merawat anak-anak dan mengumpulkan foto-foto telanjang, terkadang dengan menyamar sebagai anak-anak sendiri.

Teknik deteksi perawatan grooming yang dijanjikan Microsoft berjanji untuk membantu dalam perilaku itu dengan komunikasi tekstual, tetapi masih menyisakan obrolan suara di game multipemain seperti Fortnite yang tidak tertangani, yang berfungsi sebagai jalan lain bagi predator seks anak.

Proyek ini dimulai pada November. 2018 hackathon disponsori bersama dengan dua kelompok kesejahteraan anak yang tidak hanya melihat ide-ide teknologi baru tetapi juga masalah hukum dan kebijakan.

Sejak itu, Microsoft telah mengembangkan alat-alat dalam kolaborasi dengan perusahaan-perusahaan di belakang Roblox video game online dan aplikasi messenger Kik, The Meet Group, yang memiliki aplikasi pertemuan sosial seperti MeetMe dan Skout, dan Thorn, sebuah organisasi nirlaba yang didirikan oleh aktor Ashton Kutcher dan Demi Moore untuk memerangi pelecehan seks anak.

Tim tersebut dipimpin oleh Profesor Ilmu Komputer Dartmouth College Hany Farid, yang sebelumnya bekerja dengan Microsoft untuk membangun PhotoDNA, alat yang telah digunakan oleh 150 perusahaan dan organisasi untuk menemukan dan melaporkan gambar eksploitasi seksual anak.

Farid telah menulis bertentangan dengan proliferasi atau enkripsi ujung ke ujung dalam layanan pesan sosial dan pribadi, dengan alasan hal itu membuat mendeteksi dan mencegah pelecehan anak menjadi lebih sulit.

Mulai Januari 10, Thorn akan menangani lisensi atau Project Artemis, yang dibangun di atas paten Microsoft dan tersedia secara gratis untuk layanan online yang memenuhi syarat, yang dapat mendaftar untuk itu dengan mengirim email ke antigrooming@thorn.org. Microsoft mengatakan sudah menggunakan teknik untuk obrolan Xbox dan melihat melakukan hal yang sama untuk Skype. (Icha)

Leave a Comment