Perkembangan teknologi kecerdasan buatan (AI) terus menghadirkan inovasi, termasuk dalam hal penandaan konten yang dihasilkan. Baru-baru ini, Anthropic mengumumkan bahwa model Claude mereka akan segera menyematkan watermark tak terlihat pada output teksnya. Di sisi lain, Google mengungkapkan bahwa watermark Gemini yang terlihat pada gambar hasil AI kini bersifat opsional. Kedua pengumuman ini mencerminkan keragaman metode watermarking AI yang ada saat ini.
Prinsip dasar watermarking AI adalah menyematkan data pada konten yang dihasilkan, baik itu gambar, audio, video, atau teks. Data ini dirancang agar tidak terdeteksi oleh indra manusia, namun dapat diidentifikasi oleh alat deteksi khusus sebagai penanda konten buatan AI. Metode implementasinya bervariasi tergantung jenis media.
Untuk gambar, piksel dapat dimodifikasi sedikit untuk menyematkan tanda tangan digital tanpa mengubah tampilan visual. Contohnya adalah SynthID dari Google, yang mendistribusikan tanda tangan tak terlihat ke seluruh gambar, sehingga bagian yang terpotong pun masih dapat dideteksi. Perlu dicatat, ini berbeda dari simbol abu-abu yang terlihat pada gambar Gemini; watermark tak terlihat tetap ada meski yang terlihat dinonaktifkan.
Pada audio, watermark dapat disematkan pada frekuensi di luar jangkauan pendengaran manusia, seperti di bawah 20Hz atau di atas 20.000Hz. Komponen audio SynthID dapat didengar oleh detektor, namun tidak terdengar oleh telinga manusia.
Video umumnya menggunakan kombinasi metode watermarking gambar dan audio. Namun, perlu diingat bahwa konten palsu dapat dibuat dengan menggabungkan audio AI dengan video asli, sehingga watermark hanya muncul pada salah satu elemen.
Untuk teks, watermark bekerja dengan memanipulasi probabilitas kemunculan kata-kata tertentu dalam sebuah kalimat yang dihasilkan oleh model bahasa besar (LLM). Dengan sedikit ‘mendorong’ agar kata-kata tertentu yang kurang umum muncul, watermark dapat dideteksi tanpa mengubah makna keseluruhan teks. Metode ini cenderung lebih efektif pada teks yang lebih panjang.
Selain watermark langsung, ada juga kerangka kerja seperti C2PA yang menambahkan metadata untuk memverifikasi asal-usul media. Beberapa produsen kamera telah mengimplementasikan C2PA untuk melacak sumber gambar, termasuk apakah gambar tersebut dihasilkan oleh AI.
Meskipun SynthID dikembangkan oleh DeepMind Google, protokolnya kini bersifat open-source dan digunakan oleh perusahaan AI lain seperti OpenAI. Namun, implementasi watermarking dapat bervariasi antar perusahaan; beberapa tidak menggunakannya sama sekali. Kehadiran watermark AI dapat mengonfirmasi konten buatan AI, namun ketiadaannya tidak dapat membuktikan sebaliknya.
Deteksi watermark AI bisa menjadi tantangan. OpenAI menyediakan alat terpisah untuk memeriksa SynthID atau C2PA, namun alat tersebut tampaknya hanya mendeteksi media yang dihasilkan oleh OpenAI sendiri. Google menawarkan akses verifikasi melalui Gemini atau Google, namun terkadang memerlukan prompt spesifik untuk mengaktifkan pemeriksaan SynthID. Portal Google SynthID Detector saat ini hanya tersedia untuk jurnalis dan profesional verifikasi melalui undangan.
Bahkan dengan upaya deteksi, konten bisa saja memiliki jenis watermark lain yang memerlukan detektor berbeda. Watermark teks, seperti yang digunakan Claude atau Gemini, masih sulit dideteksi karena belum ada cara publik untuk memeriksanya. Google SynthID Detector dapat melakukannya, tetapi belum tersedia secara umum.
Secara teknis, watermark dapat dihilangkan, meskipun SynthID cukup tangguh terhadap modifikasi umum seperti pemotongan atau filter. Menghapus metadata C2PA lebih mudah, misalnya dengan mengambil tangkapan layar, yang akan membuat file gambar baru dengan metadata yang berbeda.
Penting untuk diingat bahwa watermark tidak selalu berarti seluruh konten dibuat oleh AI. Gambar asli yang diedit menggunakan alat AI dapat memiliki watermark SynthID, yang menandakan modifikasi, bukan seluruh keasliannya. Sebaliknya, ketiadaan watermark tidak menjamin keaslian konten. Watermark dan metadata hanyalah alat bantu untuk menelusuri asal-usul dan modifikasi media, verifikasi akhir tetap berada di tangan pengguna.
