Geger! Video AI Rasis di TikTok, Google Veo 3 Biang Kerok?

HargaPer.com – Murah &Terbaik Murah &Terbaik – Platform media sosial TikTok kini berada di bawah sorotan tajam setelah platformnya tercemar oleh gelombang konten video AI yang sarat stereotip rasisme dan ujaran kebencian. Video-video AI kontroversial ini diduga kuat dihasilkan menggunakan teknologi AI canggih dari Google, yaitu Veo 3.

Fenomena meresahkan ini telah menarik perhatian khusus dari organisasi nirlaba pengawas media di AS, Media Matters for America, yang membeberkannya dalam laporan terbaru mereka. Beberapa video rasis yang sempat viral di TikTok dilaporkan telah meraup puluhan juta penayangan sebelum akhirnya dihapus secara paksa.

Meskipun mekanisme pasti di balik produksi video-video bermasalah ini masih belum sepenuhnya jelas, serangkaian kesamaan teknis yang mencolok mengindikasikan satu kesimpulan kuat: kemungkinan besar konten tersebut dibuat menggunakan Google Veo 3, sebuah model AI video generatif (text-to-video) yang dirilis pada Mei 2025 lalu. Kesamaan ini menjadi fondasi utama dugaan Media Matters.

Baca juga: AI Google Veo 3 Kini Tersedia di Indonesia, Bisa Diakses Tanpa VPN

Menurut penyelidikan Media Matters, hampir semua video AI rasis yang menjadi viral di TikTok memiliki durasi 8 detik, yang mana merupakan batas durasi maksimal untuk video yang saat ini dapat dihasilkan oleh Veo 3. Lebih lanjut, beberapa video bahkan menampilkan watermark bertuliskan “Veo” di sudut layar, sementara sebagian lainnya secara eksplisit menyertakan tagar atau keterangan terkait #Veo3 dalam deskripsi unggahan atau nama pengguna akun yang mempostingnya. “Bukti yang ditemukan mencakup panjang video, watermark, serta tagar dan username yang menyebut langsung Veo 3, mengindikasikan bahwa teknologi inilah yang digunakan untuk memproduksi konten tersebut,” demikian pernyataan resmi dari Media Matters.

Konten video yang ditemukan umumnya menyoroti stereotip rasis terhadap komunitas kulit hitam, menggambarkan mereka dengan cara-cara yang merendahkan, seperti sebagai kriminal, orang tua yang tidak bertanggung jawab, atau bahkan digambarkan menyerupai hewan. Tidak berhenti di situ, Media Matters juga menemukan video yang menyebarkan stereotip antisemit (negatif terhadap orang Yahudi), konten yang menyerang imigran, serta klip yang merujuk pada peristiwa traumatis sejarah, seperti Holocaust (pembantaian jutaan orang Yahudi oleh Nazi Jerman) atau kekerasan Ku Klux Klan terhadap warga kulit hitam di AS.

Ironisnya, beberapa video sengaja dirancang dengan gaya “sarkastik” atau satir, dengan tujuan memicu reaksi dan interaksi dari pengguna TikTok. Menurut Media Matters, banyak komentar di unggahan asli secara langsung mengulang atau bahkan mendukung stereotip rasis yang ditampilkan dalam video tersebut. Hal ini berarti, selain konten video itu sendiri yang bermasalah, kolom komentar juga dipenuhi ujaran rasis yang memperkuat atau menyetujui pesan diskriminatif. Fenomena inilah yang diyakini menjadi pendorong utama viralnya video AI rasis, mengingat cara kerja algoritma TikTok yang akan memperluas jangkauan video berdasarkan tingkat respons pengguna (komentar, like, atau share) di For You Page (FYP).

Baca juga: Adu Foto AI Buatan ChatGPT dan Google Gemini, Mana Lebih Realistis?

Sudah dihapus, akun diblokir

Menanggapi laporan ini, pihak TikTok mengeklaim telah menghapus sejumlah akun dan video yang diidentifikasi oleh Media Matters, bahkan menyebutkan bahwa sebagian besar akun tersebut telah diblokir bahkan sebelum laporan diterbitkan. “Kami secara proaktif menegakkan aturan ketat terhadap ujaran kebencian dan perilaku berbahaya,” jelas Ariane de Selliers, juru bicara TikTok, dalam pernyataannya kepada The Verge. “Akun-akun yang disebutkan telah kami tangani, banyak di antaranya sudah diblokir sebelum laporan ini dipublikasikan,” tambahnya. TikTok memiliki kebijakan tegas terhadap konten berbau diskriminasi, di mana pedomannya menyatakan bahwa platform “tidak merekomendasikan konten yang memuat stereotip negatif terhadap individu atau kelompok dengan atribut yang dilindungi”.

Namun, kemunculan video semacam ini menimbulkan pertanyaan serius mengenai efektivitas sistem moderasi konten otomatis, terutama ketika konten dibuat oleh AI dan diposting secara massal oleh akun-akun anonim atau bot. Menurut laporan ArsTechnica, dalam kebijakan penggunaan layanannya (Prohibited Use Policy), Google sebenarnya melarang penggunaan layanannya untuk mempromosikan ujaran kebencian, pelecehan, perundungan, intimidasi, dan penyalahgunaan. Namun kenyataannya, semua video yang ditemukan oleh Media Matters tampaknya termasuk dalam satu atau beberapa kategori ini. Secara teori, Veo 3 seharusnya menolak untuk membuat video terlarang tersebut. Namun, tampaknya celah masih terbuka lebar, terutama ketika AI gagal mengenali makna simbolik atau sindiran dalam perintah yang diberikan.

Sebagai contoh, penggunaan monyet sebagai pengganti manusia dalam beberapa video, atau penggunaan simbol buah/makanan seperti semangka dan ayam goreng untuk menghina atau merendahkan komunitas kulit hitam, khususnya di AS. Hingga berita ini ditulis, Google juga belum memberikan pernyataan resmi terkait dugaan bahwa Veo 3 digunakan untuk memproduksi konten rasis tersebut, sebagaimana dihimpun KompasTekno dari PCMag, Senin (7/7/2025).

Baca juga: Pendiri Facebook Resmi Bentuk Superintelligence Lab, Isinya Jagoan AI

Berdasarkan pengamatan lebih lanjut, fenomena video AI rasis ini juga terdeteksi dalam skala yang lebih kecil di platform seperti YouTube dan Instagram. Hal ini mengindikasikan bahwa penyalahgunaan teknologi AI generatif untuk konten bermasalah bukan hanya tantangan eksklusif bagi TikTok, melainkan merupakan isu global yang dihadapi oleh seluruh industri teknologi. Meskipun konten-konten tersebut sudah dihapus, Media Matters telah mengompilasi video-video rasis yang sempat viral di TikTok dalam satu video berdurasi sekitar 2 menit 22 detik sebagai bukti. Namun perlu diingat, video tersebut berisi konten rasis dan antisemit. Watch it at your own risk!

Baca juga: Cara Pakai Google Veo 3 Tanpa VPN, Sudah Tersedia di Indonesia