Jakarta, Timohh News —

Konten gambar yang dihasilkan oleh kecerdasan buatan (AI) menyebar secara online dan meresahkan. Pasalnya, konten tersebut dapat menyesatkan pengguna internet yang tidak mengetahui cerita di baliknya.

Di Korea Selatan, misalnya, kasus deep AI telah menjadi masalah besar akhir-akhir ini. Pasalnya, semakin banyak orang di Korea Selatan, termasuk anak-anak kecil, yang menjadi korban kejahatan berat.

Kasus tersebut muncul setelah beberapa chat room di Telegram membuka berita palsu dan membagikan konten meresahkan yang menimbulkan ketakutan dan kemarahan di Korea Selatan.

Menurut Badan Kepolisian Nasional Korea Selatan, 297 kasus kejahatan berat tidak dilaporkan dari bulan Januari hingga Juli. Dari 178 tersangka, 113 di antaranya adalah anak-anak. Di Seoul saja, 10 anak berusia 14 tahun telah ditangkap karena kejahatan ini.

Karena konten AI semakin meningkat dan bisa dibilang mengganggu, Google mengembangkan alat untuk mendeteksi konten yang dihasilkan AI.

Awal tahun ini Google bergabung dengan komite Koalisi untuk Asal dan Keaslian Konten (C2PA). Bersama anggota panitia, selama beberapa bulan terakhir, Google telah mengembangkan teknologi untuk menemukan dan menandai konten cerdas.

Teknologi ini nantinya akan diterapkan di Tag Konten. Daftar isi adalah ekstensi yang membantu melacak asal konten video dan gambar.

Dalam beberapa bulan mendatang Google akan memperkenalkan versi baru Tag Konten untuk produk utama Google. Dengan kata lain, Google akan memudahkan konten AI ditemukan di hasil pencarian Google.

Menurut Engadget, browser ini akan tersedia di Google Foto, Lens, dan Search Circle. Jika gambar yang dihasilkan memiliki metadata C2PA, perubahan yang dilakukan oleh AI dapat ditemukan di menu “Tentang gambar ini”.

Google sedang belajar membuat program yang dapat mengidentifikasi konten video YouTube. Secara detail, sistem mengidentifikasi kapan video tersebut diambil oleh kamera.

Sistem ini juga memiliki banyak batasan dalam penggunaan sistem sertifikasi C2PA oleh perusahaan terkait seperti produsen kamera dan produsen perangkat keras AI.

Artinya, jika seseorang menghapus metadata dari suatu gambar, Google akan kesulitan melihat tingkat AI pada gambar tersebut.

Di sisi lain, perusahaan Meta berjuang untuk menghadirkan konten AI di Facebook, Instagram, dan Threads. Meta baru-baru ini mengubah kebijakannya untuk membuat teks tidak terlihat pada gambar yang diedit AI.

Label “AI info” yang dulunya ada di tengah gambar telah diedit menggunakan alat AI dan kini ada di kolom.

Selain itu, Google juga mempertimbangkan untuk menggunakan metadata C2PA dalam proses periklanan. Namun, mereka tidak mengungkapkan rincian lainnya. Seperti diketahui, C2PA digunakan untuk menginformasikan kebijakan privasi Google.

(wnu/dmi)