Video yang menampilkan konten rasis dan viral di TikTok telah menghebohkan dunia maya. Lembaga pengawas media independen, Media Matters, pertama kali menemukan video-video tersebut, yang kemudian dilaporkan telah ditonton jutaan kali di platform TikTok.
Video-video ini diduga dibuat menggunakan Google Veo 3, sebuah alat kecerdasan buatan (AI) besutan Google. Media Matters mencatat satu video saja telah mencapai 14,2 juta penayangan.
Video Rasis Buatan AI Google Viral di TikTok
Media Matters mengidentifikasi sejumlah video dengan konten rasis, banyak yang menargetkan orang kulit hitam. Keberadaan watermark “Veo” di sudut klip video mengkonfirmasi asal-usulnya dari Google Veo 3.
Beberapa pengguna TikTok juga menambahkan tagar, keterangan, atau nama pengguna yang terkait dengan Veo 3 dan AI. Hal ini semakin menguatkan dugaan bahwa video-video tersebut memang berasal dari alat AI tersebut.
Google Veo 3 dan Tanggapan Pihak Terkait
Google Veo 3, diluncurkan pada Mei 2025, memungkinkan pengguna menghasilkan klip video pendek, maksimal 8 detik, hanya dengan memasukkan perintah teks.
Google mengklaim telah menerapkan kebijakan untuk memblokir permintaan dan hasil video yang berbahaya. Namun, kenyataannya, video-video rasis tersebut berhasil lolos dan menyebar luas di TikTok.
TikTok sendiri memiliki kebijakan yang tegas terhadap ujaran kebencian dan perilaku intoleran. Platform ini menyatakan tidak akan merekomendasikan konten yang mengandung stereotip negatif terhadap individu atau kelompok tertentu.
Juru bicara TikTok, Ariane de Sellier, menyatakan bahwa platform telah aktif menegakkan aturan tersebut, menghapus akun yang terlibat, dan memblokir banyak video sebelum laporan Media Matters dirilis.
Tanggapan Google dan Temuan Lebih Lanjut
Pihak Google belum memberikan tanggapan resmi terkait viralnya video-video rasis tersebut. The Verge telah menghubungi Google, namun belum mendapatkan konfirmasi.
Selain di TikTok, The Verge juga menemukan video serupa, meskipun dengan jumlah penayangan yang lebih sedikit, di YouTube.
Sementara itu, Wired melaporkan penemuan video-video rasis yang dihasilkan oleh AI di Instagram. Media Matters juga menemukan video dengan konten antisemit dan penggambaran rasis terhadap imigran dan orang Asia.
Kasus ini mengungkap tantangan besar dalam pengembangan dan penerapan AI, khususnya dalam hal pencegahan penyebaran konten berbahaya. Perlu ada mekanisme pengawasan dan regulasi yang lebih ketat untuk mencegah dampak negatif teknologi AI terhadap masyarakat.
Insiden ini menjadi pengingat penting bagi pengembang AI untuk memprioritaskan etika dan keselamatan dalam pengembangan teknologi mereka. Transparansi dan akuntabilitas juga sangat dibutuhkan untuk memastikan teknologi AI digunakan secara bertanggung jawab dan tidak melanggar norma-norma sosial.
