Video bermuatan rasis yang diduga dihasilkan oleh alat kecerdasan buatan (AI) Google, Veo 3, baru-baru ini menjadi viral di TikTok. Lembaga pengawas media independen, Media Matters, pertama kali menemukan dan melaporkan penyebaran video-video tersebut yang telah ditonton jutaan kali.
Berbagai laporan menyebutkan video-video AI ini mengandung konten rasis, terutama yang menargetkan orang kulit hitam. Salah satu video bahkan tercatat memiliki 14,2 juta penayangan.
Video AI Rasis di TikTok: Jejak Veo 3
Keberadaan watermark “Veo” di sudut klip video mengungkap asal muasal konten tersebut. Video-video tersebut memang dihasilkan oleh Google Veo 3.
Media Matters juga mencatat beberapa pengguna TikTok menambahkan tagar, deskripsi, atau nama pengguna yang terkait dengan Veo 3 dan AI. Hal ini memperkuat dugaan bahwa video-video tersebut sengaja disebarluaskan.
Durasi setiap klip video AI yang ditemukan umumnya singkat, tidak lebih dari 8 detik. Ini sesuai dengan batasan durasi maksimal Veo 3.
Respon TikTok dan Google Terhadap Konten Bermasalah
Google, melalui situs web Veo 3, menyatakan akan memblokir permintaan dan hasil video yang berbahaya. Namun, tampaknya sistem tersebut masih belum sempurna.
TikTok sendiri memiliki kebijakan yang melarang ujaran kebencian dan perilaku intoleran. Platform ini menyatakan tidak akan merekomendasikan konten yang mengandung stereotip negatif terhadap individu atau kelompok tertentu.
Juru bicara TikTok, Ariane de Sellier, menyatakan bahwa platform tersebut telah menghapus akun yang diidentifikasi sebagai penyebar konten rasis. Banyak video juga telah diblokir bahkan sebelum laporan Media Matters diterbitkan.
Kebijakan Platform dan Tanggung Jawab Pengembang AI
Kejadian ini menyoroti pentingnya pengawasan dan penegakan aturan yang ketat oleh platform media sosial seperti TikTok. Perlu ada mekanisme yang lebih efektif untuk mendeteksi dan menghapus konten berbahaya secara cepat dan tepat.
Di sisi lain, tanggung jawab pengembang AI seperti Google juga tidak bisa diabaikan. Meskipun Veo 3 memiliki fitur pemblokiran konten berbahaya, kejadian ini menunjukkan perlunya penyempurnaan algoritma dan mekanisme deteksi yang lebih canggih.
Investigasi Lebih Lanjut dan Respon Google yang Minim
Selain video-video di TikTok, The Verge juga menemukan video serupa di YouTube, meskipun dengan jumlah penayangan yang lebih sedikit. Wired juga melaporkan temuan serupa di Instagram.
Media Matters menemukan konten yang lebih luas, termasuk konten antisemit dan penggambaran rasis terhadap imigran dan orang Asia. Semua ini menggarisbawahi potensi bahaya dari AI jika tidak dikelola dengan baik.
Menariknya, Google, sebagai pengembang Veo 3, belum memberikan tanggapan resmi terkait temuan ini kepada The Verge. Ketidakhadiran tanggapan resmi ini semakin mempertegas perlunya transparansi dan akuntabilitas dalam pengembangan dan penerapan teknologi AI.
Kasus video rasis yang dihasilkan oleh AI Google ini menjadi pengingat penting tentang potensi bahaya dari teknologi AI jika tidak dikelola dengan bijak. Perlu kolaborasi yang kuat antara platform media sosial, pengembang AI, dan regulator untuk memastikan teknologi ini digunakan secara bertanggung jawab dan meminimalisir dampak negatifnya. Ke depan, peningkatan sistem deteksi konten berbahaya dan transparansi dari pihak pengembang menjadi hal krusial untuk mencegah kejadian serupa terulang.
