Telko.id – Peluncuran Sora 2, sebuah model akal imitasi (AI) seperti sebuah pisau bermata dua di jagat digital. Produk OpenAI itu menunjukkan level baru teknologi kecerdasan lantaran mampu menghasilkan video dari instruksi teks. Namun, pemakaiannya ternyata melewati batas norma dan membuat konten perundungan bermunculan.
Analis teknologi dari Digital Trends, Moinak Pal, membedah dampak video AI yang membanjiri dunia maya belakangan ini. Dia tergerak oleh pernyataan Chief Executive Officer Netflix Ted Sarandos yang membanggakan kehebatan AI untuk membantu orang. Pernyataan itu dianggap mengesampingkan dampak buruk fitur pintar.
Aplikasi Sora 2, kata dia, dimanfaatkan untuk membuat kontek bully. “Alat pembuat video baru milik OpenAI digunakan untuk memproduksi konten paling jelek. Orang-orang membuat video rasis di seluruh media sosial,” katanya dikutip dari ulasan Digital Trends pada Jumat, 14 November 2025.
Selain soal rasisme, sebagian konten buatan Sora AI juga menjurus ke fat-shaming atau penghinaan yang menargetkan individu berdasarkan berat badan. Video rekayasa AI itu menyebar dengan cepat dan menjadi bahan cemoohan banyak orang.
Sora 2 dirancang dengan kebijakan yang melarang konten kebencian atau pelecehan. Namun, kata Moinak, kenyataannya video fat-shaming tetap berhasil lolos dari filter yang diterapkan oleh OpenAI.
Baca juga:
- OpenAI Rilis Sora Android, Video AI Kini hadir di PlayStore
- Sora Meledak, Aplikasi Video AI OpenAI Tembus 1 Juta Unduhan
Banyak pengguna menemukan cara untuk memanipulasi prompt atau perintah teks yang dimasukkan. Cara itu membuat mereka menghasilkan konten yang melanggar kebijakan tanpa terdeteksi sistem AI.
Fenomena ini menunjukkan adanya celah etika yang besar dalam implementasi teknologi AI mutakhir. Kebijakan yang ketat tidak selalu mampu menghentikan niat jahat pengguna.
Kemampuan Sora untuk menciptakan video yang sangat realistis menambah pemicu masalah ini. Video yang dihasilkan seringkali disalahpahami sebagai konten otentik.
Ketika salah satu video menjadi viral, belasan pengguna lain terdorong membuat versi sendiri demi mendapatkan perhatian publik.
OpenAI kini menghadapi tantangan besar untuk menyeimbangkan antara inovasi teknologi dan tanggung jawab sosial. Perusahaan dan regulator seharusnya dapat mengatasi penyalahgunaan platform mereka secara lebih efektif dan segera.
Perilisan Sora AI juga belakangan menimbulkan kekhawatiran baru soal lemahnya deteksi manipulasi konten alias deepfake. Aplikasi video itu terbukti mampu menghasilkan video palsu yang tampak sangat realistis, termasuk meniru wajah tokoh terkenal seperti Martin Luther King Jr., Michael Jackson, Bryan Cranston, serta karakter populer dengan hak cipta seperti SpongeBob dan Pikachu.
Meski OpenAI memberi pemahaman bahwa konten dalam aplikasi itu tidak nyata, video yang dihasilkan tetap mudah beredar luas di media sosial tanpa tanda air buatan AI. Kondisi ini menunjukkan lemahnya sistem pelabelan konten, termasuk C2PA authentication, mekanisme yang diklaim mampu membedakan konten asli dari yang dihasilkan AI.
Sistem C2PA, yang juga dikenal sebagai content credentials, merupakan sistem metadata yang digagas oleh Adobe untuk menempelkan informasi tentang waktu dan cara suatu gambar, video atau audio dibuat atau diubah. OpenAI termasuk dalam komiter pengarah Coalition for Content Provenance and Authenticity (C2PA), yang bekerja sama dengan Conteng Authenticity Initiative (CAI). Namun, tanda pengenal digital itu nyaris tidak terlihat oleh publik.
