Sebuah akun TikTok dengan nama pengguna @nia.hajar_s mendadak menjadi pusat perhatian warganet setelah terungkap bahwa sosok "ustazah" yang tampil di video-videonya ternyata adalah hasil rekayasa kecerdasan buatan (AI) sepenuhnya. Fenomena ini, yang terpantau pada Kamis (25/6) sore, menimbulkan gelombang keresahan di kalangan pengguna media sosial, memicu diskusi tentang realisme digital, akuntabilitas konten, dan etika penggunaan teknologi AI. Akun tersebut telah berhasil mengumpulkan lebih dari 920 ribu pengikut dan 10,4 juta suka, menunjukkan betapa masifnya penyebaran konten AI yang sangat meyakinkan.
Sosok perempuan berhijab dalam video-video tersebut tampak berbicara di depan mikrofon, seolah tengah menyampaikan ceramah layaknya seorang ustazah sungguhan. Visual yang luar biasa realistis ini sukses mengecoh banyak jemaah digital, yang awalnya mengira sedang mendengarkan seorang manusia asli. Keresahan ini salah satunya disuarakan oleh akun X @MiskinTV_, yang menyoroti potensi penyesatan informasi serta ketiadaan sosok nyata yang dapat dimintai pertanggungjawaban jika terjadi kekeliruan tafsir dalam konten-konten tersebut.
Firman Kurniawan, seorang pemerhati budaya dan komunikasi digital, turut mengonfirmasi bahwa ‘Ustazah Hajar’ adalah murni hasil ciptaan AI. Menurut Firman, ada beberapa karakteristik yang jelas menunjukkan bahwa sosok tersebut merupakan produk akal imitasi. Salah satu indikator utamanya adalah intonasi suara dalam video yang terdengar sangat teratur dan rapi, berbeda dengan pola bicara manusia yang seringkali memiliki jeda alami, ritme berpikir, atau variasi tempo. Keajekan suara ini menjadi petunjuk kuat bahwa konten tersebut adalah fabrikasi atau buatan kecerdasan buatan.
Firman Kurniawan juga menjelaskan bahwa konten-konten yang dihasilkan oleh AI kini semakin marak dan masif dalam beberapa waktu terakhir. Tren peningkatan ini didasari oleh tiga faktor utama yang saling berkaitan dan mendorong adopsi teknologi AI secara luas. Pertama, teknologi kecerdasan buatan menjadi semakin terjangkau, bahkan banyak platform yang menyediakan fasilitas gratis bagi penggunanya untuk mencoba aplikasi-aplikasi canggih ini. Aksesibilitas biaya ini membuka pintu bagi lebih banyak individu dan kreator konten.
Faktor kedua adalah kemudahan penggunaan teknologi AI yang terus meningkat. Firman menyebutkan bahwa seseorang tidak perlu lagi memiliki keahlian khusus atau pendidikan formal dalam AI untuk dapat menghasilkan konten yang komunikatif dan menarik. Dengan hanya mengandalkan video tutorial di YouTube, bertanya kepada mereka yang lebih ahli, atau bahkan sekadar coba-coba, siapa pun kini bisa menciptakan konten AI yang efektif. Ini menurunkan hambatan masuk bagi para kreator digital.
Ketiga, dan mungkin yang paling krusial, adalah kualitas hasil konten buatan AI yang sudah mencapai tingkat kepuasan tinggi. Output dari AI kini begitu realistis dan detail sehingga sangat sulit dibedakan antara yang asli dengan yang artifisial. Kombinasi dari tiga faktor inilah yang secara signifikan memicu orang untuk memanfaatkan AI secara masif dalam berbagai jenis kegiatan, mulai dari hiburan hingga penyebaran informasi, menciptakan lanskap digital yang semakin kompleks.
Senada dengan Firman, pengamat digital Alfons Tanujaya juga menggarisbawahi tren ini. Menurut Alfons, kemampuan AI untuk menghasilkan gambar, video, dan suara yang semakin mirip dengan aslinya dan sulit dibedakan telah menjadi daya tarik utama. Bahkan, fenomena ini sudah merambah ke industri modelling, di mana model AI atau kreator konten berbasis AI mulai memiliki jumlah pengikut yang lebih tinggi dibandingkan dengan kreator manusia asli. Ini menunjukkan pergeseran signifikan dalam preferensi dan penerimaan audiens terhadap konten digital.
Alfons menambahkan bahwa sebagian besar pengguna internet yang belum sepenuhnya memahami perkembangan pesat teknologi AI ini akan sangat mudah mempercayai konten buatan AI sebagai konten yang dihasilkan oleh manusia. Meski demikian, ia menekankan bahwa dampak dari suatu konten, baik positif maupun negatif, pada akhirnya tetap bergantung pada niat dan isi pesan yang disampaikan, bukan semata-mata pada siapa pembuatnya—apakah AI atau manusia. Ini menyoroti pentingnya literasi digital.
Namun, Alfons juga menegaskan bahwa risiko terbesar muncul ketika identitas pengelola konten AI tidak diketahui secara jelas. Ketiadaan transparansi ini membuat sulit bagi pihak berwenang untuk melacak atau meminta pertanggungjawaban jika terjadi penyalahgunaan atau penyebaran informasi yang salah. Isu etika juga menjadi perhatian, seperti dalam kasus pengelola konten pria yang menggunakan avatar wanita. Alfons berpendapat bahwa praktik semacam ini seharusnya dapat dibatasi dan dipertanggungjawabkan secara etis untuk menjaga integritas dan kepercayaan di ruang digital.
Fenomena ‘Ustazah AI’ ini menjadi cerminan nyata dari tantangan dan peluang yang dihadirkan oleh perkembangan kecerdasan buatan di era digital. Sementara teknologi menawarkan inovasi dan efisiensi dalam pembuatan konten, ia juga membawa implikasi serius terkait keaslian, kepercayaan publik, dan akuntabilitas. Masyarakat digital kini dihadapkan pada kebutuhan mendesak untuk meningkatkan literasi media dan kemampuan berpikir kritis dalam menyaring informasi, mengingat semakin kaburnya batas antara realitas dan rekayasa di jagat maya. Regulator dan platform juga memiliki peran krusial dalam menetapkan pedoman etika dan mekanisme pertanggungjawaban untuk memastikan penggunaan AI yang bertanggung jawab dan tidak merugikan.
