Foto: Kevin Stadnyk / Unsplash
Google baru saja menarik kembali fitur baru di Google Earth yang memungkinkan pengguna mengedit citra satelit menggunakan AI. Fitur yang diluncurkan pada hari Kamis ini hanya bertahan satu hari sebelum akhirnya dinonaktifkan.
Alat ini pada dasarnya memungkinkan pengguna menciptakan ‘deepfake’ AI dari dunia nyata hanya dengan perintah teks. Fitur ini menggunakan model Nano Banana 2 untuk menghasilkan gambar.
Salah satu contoh penyalahgunaan ditunjukkan oleh Henk van Ess dari Digital Digging. Ia sengaja membuat gambar yang menambahkan elemen seperti pengungsi di dekat perbatasan Meksiko dan kawah bom di dekat rumah sakit di Gaza. Hal ini memicu kekhawatiran serius tentang potensi penyalahgunaan dan penyebaran informasi palsu.
Awalnya, Google menanggapi insiden van Ess dengan menyatakan bahwa gambar yang dibuat dengan Nano Banana 2 di Google Earth sudah menyertakan tanda air digital dan perusahaan mencegah “pembuatan gambar pada topik berbahaya.” Namun, sehari kemudian, Google mengeluarkan pernyataan baru yang mengindikasikan penarikan fitur tersebut.
Kontroversi dan Penarikan Fitur
Keputusan Google untuk menarik fitur ini begitu cepat menyoroti tantangan yang dihadapi perusahaan teknologi dalam mengelola alat AI generatif. Meskipun ada upaya untuk menyertakan tanda air dan menyaring topik berbahaya, potensi penyalahgunaan tetap menjadi perhatian utama. Kemampuan untuk mengubah citra satelit yang seharusnya merepresentasikan realitas, menjadi versi yang dimanipulasi, menimbulkan pertanyaan etis dan kredibilitas.
Kasus ini juga bukan yang pertama bagi Google. Sebelumnya, Google Gemini juga sempat memicu kontroversi karena menghasilkan gambar yang tidak akurat secara historis atau bias. Insiden berulang ini menunjukkan bahwa meskipun teknologi AI semakin maju, pengawasan dan moderasi manusia masih sangat penting untuk mencegah dampak negatif.
Penarikan fitur ini mengirimkan pesan jelas bahwa Google sedang berjuang untuk menyeimbangkan inovasi AI dengan tanggung jawab sosial. Pengguna dan pengembang AI akan terus memantau bagaimana perusahaan besar seperti Google menangani masalah ini di masa depan, terutama mengingat dampak luas yang bisa ditimbulkan oleh teknologi deepfake.
