Google secara mengejutkan menarik kembali fitur kecerdasan buatan (AI) Nano Banana 2 dari platform Google Earth, hanya sehari setelah peluncurannya. Fitur ini dirancang untuk memungkinkan pengguna menghasilkan gambar historis, membuat infografis lokasi, atau memvisualisasikan rumah impian di latar belakang dunia nyata.
Keputusan ini diambil menyusul maraknya penyalahgunaan fitur tersebut untuk menghasilkan konten yang tidak pantas dan berpotensi menyesatkan. Google menyatakan, “Kami tahu bahwa orang-orang secara unik mempercayai Google Earth untuk pandangan dunia yang andal. Kami telah melihat para profesional geospasial menggunakan fitur ini untuk berbagai tujuan yang berguna; namun, kami juga melihat orang-orang berbagi tangkapan layar dari citra yang dihasilkan yang tampaknya melanggar kebijakan kami. Jadi kami menarik kembali fitur ini di Google Earth selagi kami bekerja untuk mengimplementasikan pengaman yang lebih kuat.” Meskipun Google mengklaim gambar yang dihasilkan tidak muncul di pengalaman utama Google Earth dan diberi tanda air, kenyataannya menunjukkan sebaliknya.
Pengguna diketahui telah menciptakan citra yang sangat sensitif dan tidak pantas, seperti pesawat yang menabrak World Trade Center baru di Manhattan, Menara Eiffel hancur, atau piramida Mesir runtuh. Lebih mengkhawatirkan lagi adalah potensi disinformasi yang serius. Salah satu contoh yang diperlihatkan adalah penggunaan alat ini untuk menempatkan pengungsi berjejer di dekat perbatasan Meksiko, sebuah gambar yang bisa dengan mudah disalahartikan sebagai citra satelit asli dan menyebar luas.
Integrasi Nano Banana 2 ke Google Earth dinilai sebagai langkah yang keliru sejak awal. Google Earth, yang selama ini dikenal sebagai sumber informasi geografis yang akurat dan dapat diandalkan, seharusnya tidak dicampuri oleh alat yang secara inheren menghasilkan pandangan dunia yang tidak akurat dan palsu. Alih-alih menyajikan sejarah Paris tahun 1726 yang sebenarnya, AI cenderung melapisi bangunan generik berdasarkan data latihannya, menciptakan ilusi sejarah yang menghibur namun tidak mendidik.
Demikian pula, infografis yang dihasilkan AI tidak memiliki verifikasi dari ahli, berpotensi mengandung setengah kebenaran dan halusinasi tanpa sumber yang dapat diperiksa. Hal ini dapat menyebabkan pengguna awam menyerap informasi yang salah seolah-olah itu adalah fakta. Pada intinya, fitur ini berpotensi menjadi mesin disinformasi, terutama di tengah maraknya penyebaran informasi palsu oleh AI.
Argumen ini bukan penolakan terhadap alat AI secara keseluruhan, melainkan kritik terhadap penyematan AI generatif ke dalam alat pendidikan seperti Google Earth. Kehadiran fitur ini hanya menambah kekhawatiran tentang bagaimana perusahaan teknologi besar seperti Google seharusnya memisahkan informasi nyata dari konten yang menyesatkan, bukan malah memperburuk keadaan.
