Kemajuan teknologi kecerdasan buatan (AI) telah membawa kemudahan luar biasa dalam berbagai aspek kehidupan. Namun, kemudahan ini juga membawa serta risiko yang signifikan, terutama dalam hal penyebaran informasi palsu (disinformasi) dan konten deepfake yang semakin sulit dibedakan dari kenyataan. Kemampuan AI untuk menciptakan foto dan video yang tampak autentik, padahal sebenarnya hasil manipulasi, dapat memicu perpecahan dan menimbulkan spekulasi yang tidak berdasar di masyarakat.
Untuk mengatasi masalah ini, Google memperkenalkan fitur baru pada aplikasi Gemini yang dirancang untuk membantu pengguna memverifikasi keaslian suatu konten visual. Fitur ini memungkinkan pengguna untuk dengan mudah menanyakan kepada Gemini apakah sebuah gambar dibuat oleh AI atau tidak. Respons dari Gemini akan memberikan indikasi mengenai potensi manipulasi pada gambar tersebut.
Fitur Baru Gemini untuk Deteksi Gambar Buatan AI
Fitur deteksi gambar buatan AI pada Gemini memungkinkan pengguna untuk mengidentifikasi apakah sebuah gambar merupakan hasil rekayasa AI atau bukan. Cara kerjanya cukup sederhana, pengguna hanya perlu mengajukan pertanyaan “Apakah ini buatan AI?” kepada Gemini, dan sistem akan memberikan jawaban berdasarkan analisisnya. Pada tahap awal peluncuran, fitur ini difokuskan pada pendeteksian gambar, namun Google berencana untuk segera memperluasnya ke format video dan audio. Langkah ini sangat penting mengingat semakin canggihnya teknologi deepfake yang mampu memanipulasi video dan audio dengan sangat meyakinkan.
Perluasan Fitur ke Search dan Dukungan C2PA
Google tidak hanya berencana untuk mengintegrasikan fitur deteksi AI ini ke dalam aplikasi Gemini, tetapi juga ke dalam mesin pencari Search. Integrasi ini akan memungkinkan pengguna untuk memverifikasi keaslian gambar langsung dari hasil pencarian. Langkah yang lebih signifikan adalah dukungan terhadap kredensial konten C2PA (Content Authenticity Initiative). C2PA merupakan standar industri yang bertujuan untuk memberikan informasi tentang asal-usul dan riwayat suatu konten digital.
Pentingnya Standar C2PA dalam Verifikasi Konten
Dengan mengadopsi standar C2PA, Google akan memungkinkan pendeteksian sumber konten yang dihasilkan oleh berbagai alat AI dan perangkat lunak kreatif lainnya, termasuk Sora dari OpenAI. Hal ini akan memberikan lapisan keamanan tambahan dalam memverifikasi keaslian konten, karena C2PA menyediakan informasi yang lebih lengkap dan terpercaya dibandingkan dengan sistem verifikasi yang hanya mengandalkan watermark AI.
Metadata C2PA pada Gambar Nano Banana Pro
Google mengumumkan bahwa gambar yang dihasilkan oleh model Nano Banana Pro akan dilengkapi dengan metadata C2PA yang tertanam. Ini merupakan langkah maju yang signifikan dalam upaya untuk meningkatkan transparansi dan akuntabilitas dalam pembuatan konten AI. Selain itu, TikTok juga telah mengonfirmasi akan menggunakan metadata C2PA sebagai bagian dari sistem watermarking tersembunyi mereka untuk konten yang dihasilkan oleh AI. Ini menunjukkan bahwa kesadaran akan pentingnya verifikasi konten semakin meningkat di kalangan platform media sosial.
Tantangan dan Langkah Selanjutnya dalam Verifikasi Konten AI
Meskipun fitur verifikasi konten manual di Gemini merupakan langkah positif, tantangan sebenarnya terletak pada bagaimana platform media sosial dapat secara otomatis menandai konten yang dihasilkan oleh AI. Alih-alih membebankan tanggung jawab kepada pengguna untuk memverifikasi keaslian konten sendiri, platform media sosial perlu mengambil inisiatif untuk menerapkan sistem deteksi AI yang efektif dan akurat. Kredensial C2PA dan watermark seperti SynthID akan menjadi lebih bermanfaat jika platform media sosial dapat mengintegrasikannya ke dalam sistem mereka. Dengan demikian, verifikasi konten dapat dilakukan secara otomatis dan real-time, sehingga mengurangi penyebaran informasi palsu dan konten deepfake.