Fenomena maraknya konten berkualitas rendah yang dihasilkan oleh kecerdasan buatan atau AI slop kini tengah menjadi perhatian serius di jagat maya, tak terkecuali di platform video vertikal populer, TikTok. Laporan terbaru mengungkap bahwa konten sampah buatan AI ini mulai mendominasi, bahkan menggeser karya-karya orisinal dari para kreator manusia, dan menimbulkan kekhawatiran besar, terutama bagi perkembangan anak-anak.
Berdasarkan temuan perusahaan pengeditan video Kapwing, hampir 60% video yang disajikan kepada pengguna baru di halaman "For You" TikTok didominasi oleh konten sampah yang dihasilkan oleh AI. Angka ini dilaporkan tiga kali lipat lebih tinggi dibandingkan dengan volume konten serupa yang ditemukan di YouTube, menandakan skala masalah yang semakin mengkhawatirkan.
Yang paling mengkhawatirkan adalah temuan Kapwing bahwa kategori konten dengan kepadatan konten sampah tertinggi justru berada pada segmen "Anak-anak" (Kids). Khususnya pada tagar #cartoonkids, sebagian besar video yang muncul dilaporkan bukan lagi karya asli manusia. Dari 100 video yang diperiksa dalam kategori ini, hanya tiga yang teridentifikasi murni dibuat oleh kreator manusia, sementara sisanya adalah konten otomatis.
Algoritma TikTok yang dirancang untuk personalisasi konten berperan besar dalam memperparah situasi ini. Ketika seorang pengguna menunjukkan ketertarikan, sekecil apa pun, pada konten yang dihasilkan AI, linimasa mereka akan segera dibanjiri lebih banyak lagi video serupa dalam waktu singkat. Hal ini menciptakan "gelembung" konten yang berpotensi membahayakan, terutama bagi anak-anak yang daya kritisnya masih berkembang.
Paparan materi AI yang "setengah matang" dan seringkali tidak memiliki nilai edukatif atau kreativitas yang mendalam dikhawatirkan dapat memengaruhi perkembangan kognitif dan emosional anak muda yang cenderung mudah terpengaruh oleh apa yang mereka lihat di layar. Lebih jauh lagi, perkembangan teknologi deepfake fotorealistis yang semakin canggih turut memperburuk penyebaran misinformasi dan propaganda politik, yang dampaknya bisa sangat luas dan merusak.
Tren "banjir" konten sampah AI ini tidak hanya terbatas pada TikTok. Platform media sosial lain milik Meta, seperti Facebook dan Instagram, juga dilaporkan menghadapi masalah serupa. Pengguna dan akun bot di platform tersebut kerap terlihat berinteraksi dengan konten yang aneh, tidak relevan, bahkan terkadang bermuatan kekerasan, yang sebagian besar diduga merupakan hasil dari produksi konten otomatis berbasis AI.
Menyadari potensi dampak negatif yang ditimbulkan, TikTok akhirnya mengumumkan kebijakan baru yang memberikan kontrol lebih kepada pengguna. Platform ini kini memungkinkan pengguna untuk membatasi jumlah konten buatan AI yang muncul di linimasa mereka. Jade Nester, Direktur Kebijakan Publik untuk Keselamatan dan Privasi TikTok Eropa, menyatakan bahwa kebijakan ini dibuat untuk memberikan kebebasan kepada pengguna dalam memilih seberapa banyak konten AI yang ingin mereka lihat, baik itu seni digital, penjelasan sains, maupun jenis konten lainnya yang dibuat oleh kecerdasan buatan.
Langkah serupa juga mulai dijajaki oleh raksasa video lainnya, YouTube. Platform ini berencana memperbarui sistem pelabelan konten buatan AI. Namun, inisiatif ini tampaknya belum menyentuh aspek krusial seperti rekomendasi video atau kriteria kelayakan monetisasi konten AI.
Hingga saat ini, belum ada solusi instan yang terbukti efektif untuk membendung laju penyebaran konten sampah buatan AI ini. Kecepatan perkembangan teknologi kecerdasan buatan yang luar biasa membuat garis batas antara realitas dan konten yang dihasilkan AI semakin kabur. Kemampuan AI untuk menghasilkan konten dalam skala besar dengan biaya minimal menjadi tantangan tersendiri bagi platform digital dalam upaya mereka menjaga kualitas dan keamanan ruang digital bagi seluruh penggunanya, khususnya generasi muda yang menjadi salah satu kelompok paling rentan terhadap pengaruh konten yang beredar.
