Jakarta – Platform media sosial Reddit kini mengambil langkah tak terduga dalam memerangi lonjakan konten spam yang kian merajalela. Menariknya, Reddit memilih untuk menggunakan teknologi Large Language Models (LLM) atau model bahasa besar, teknologi yang ironisnya turut berperan menciptakan masalah spam tersebut.
Dalam beberapa tahun terakhir, kemudahan akses terhadap LLM yang canggih telah dimanfaatkan oleh pihak tak bertanggung jawab untuk menyebarkan spam dan konten bot secara masif di internet. Fenomena ini membuat tantangan moderasi konten di berbagai platform digital semakin berat.
Menyadari situasi ini, Reddit mengumumkan pengembangan alat baru yang didukung oleh LLM untuk mendeteksi dan memblokir aktivitas spam. Menurut pernyataan resmi platform, upaya ini membuahkan hasil signifikan. Reddit dilaporkan berhasil memblokir rata-rata 23 juta tayangan spam setiap harinya. Selain itu, sekitar 25.000 postingan dan komentar spam baru berhasil diidentifikasi dan dicegah untuk tayang setiap hari.
Meskipun platform media sosial telah lama memiliki sistem otomatis untuk mengurangi spam, Reddit mengklaim bahwa pembaruan berbasis LLM ini memiliki tingkat deteksi yang lebih tinggi. "Kami memanfaatkan LLM untuk menangkap pola perilaku palsu yang sangat halus dan terkoordinasi, serta hype artifisial yang seringkali terlewatkan oleh sistem lama," demikian kutipan dari blog resmi Reddit.
Perusahaan melaporkan bahwa penerapan teknologi ini berhasil mengurangi paparan pengguna terhadap konten spam sebesar 20% pada periode Januari hingga Maret, jika dibandingkan dengan tiga bulan sebelumnya.
Situasi yang dihadapi Reddit ini mencerminkan tren yang lebih luas di industri teknologi. Banyak platform besar seperti YouTube, Meta, dan Instagram kini mengizinkan konten yang dihasilkan oleh AI, asalkan pengguna melakukan pengungkapan. TikTok bahkan melangkah lebih jauh dengan memungkinkan pengguna untuk mengatur seberapa banyak konten AI yang ingin mereka lihat.
Namun, kemampuan mendeteksi konten AI lebih cepat juga membuka potensi untuk mengidentifikasi konten yang melanggar, seperti ujaran kebencian, secara lebih sigap. Para ahli moderasi konten menekankan pentingnya kombinasi antara moderasi berbasis AI dan intervensi manusia untuk mendapatkan hasil yang paling efektif. Mengingat pesatnya perkembangan LLM, pertarungan melawan spam di era AI diprediksi akan terus berlanjut, menuntut inovasi berkelanjutan dari para pengelola platform digital.
