Kita sudah muak dengan foto-foto tersebut sekarang – foto “palsu” yang tidak dapat dikenali dari aslinya (kecuali jari tambahannya), teks dan kertas yang dibuat oleh AI yang terasa nyata (walaupun tetap terlihat kaku), AI. -audit dibuat, dan banyak lainnya. Selain itu, sistem AI mungkin menghapus hak cipta atau kekayaan intelektual dari situs web seperti data pelatihan, sehingga menyebabkan pengguna melakukan pelanggaran.
Selain itu: Banyak orang mengkhawatirkan deepfake – dan melebih-lebihkan kemampuan mereka untuk mendeteksinya
Masalahnya, konten AI semakin membaik. Akankah ada cara yang sangat mudah untuk mengidentifikasi produk buatan AI? Dan apa yang perlu dipahami oleh pengembang AI dan perusahaannya tentang tren yang akan datang?
“Kasus pertama pelepasan AI menarik dan mendidik, namun sekarang kita melihat lebih banyak pelaku jahat menggunakan AI untuk tujuan buruk,” kata Andy Thurai, wakil presiden dan kepala analis Constellation Research, kepada ZDNET.
Konten media – gambar, video, file audio – dapat “tidak sah, diretas, diretas, atau tidak dihargai sama sekali,” tambah Thurai. Artinya, “produsen tidak akan menerima kredit atau pendanaan yang sesuai.” Risiko tambahannya, katanya, adalah “penyebaran informasi yang dapat mempengaruhi pemilu.”
Dari sudut pandang, masalah utamanya adalah bahwa beberapa pedoman terhadap jenis bahasa cenderung menghapus tanda air atau hanya memberikan informasi terbatas, menurut makalah terbaru yang ditulis oleh para peneliti di Universitas Chicago, dipimpin oleh Aloni Cohen, asisten profesor di universitas. Mereka menginginkan metode baru – tanda air untuk banyak pengguna – “yang memungkinkan pelacakan teks yang dibuat oleh model ke pengguna individu atau kelompok pengguna, bahkan jika mereka dihadapkan pada penguatan.”
Juga: Photoshop vs. Tengah perjalanan vs. DALL-E 3: Satu-satunya generator grafis AI yang lulus lima pengujian saya
Masalah dengan audio dan media adalah memasukkan jenis bahasa digital dan keluaran AI, Anda perlu memasukkan sinyal yang dapat dikenali yang tidak dapat diubah atau dihapus.
Upaya industri sedang dilakukan untuk menciptakan tanda air AI yang sangat mudah digunakan. Misalnya, Koalisi untuk Asal dan Keaslian Konten (C2PA) – sebuah aliansi yang dibentuk melalui kemitraan antara Adobe, Arm, Intel, Microsoft, dan Truepic – sedang mengembangkan standar teknologi terbuka yang bertujuan untuk memberikan penerbit, pencipta, dan konsumen ” kemampuan untuk melacak sumber di berbagai sumber.” media.”
Juga: Ilmuwan AI: ‘Kita perlu berpikir di luar batasan bahasa’
C2PA menggabungkan upaya Adobe Content Authenticity Initiative (CAI) yang dipimpin oleh Adobe, yang berfokus pada sistem untuk menyediakan berita dan sejarah media, dan Project Origin, sebuah inisiatif yang dipimpin oleh Microsoft- dan BBC yang memerangi distorsi dalam lingkungan berita digital.
“Tanpa cara standar untuk mengidentifikasi perangkat, melihat konten AI menjadi murah, tidak efektif, dan dapat diprediksi,” kata Alessandra Sala dari Shutterstock, dalam laporan yang diterbitkan oleh International Telecommunication Union (ITU)–PBB. lembaga teknologi digital. Faktanya, ini melibatkan pengujian semua alat pendeteksi AI satu per satu, tetapi tidak yakin apakah beberapa di antaranya dihasilkan oleh AI.
Proliferasi platform AI “membutuhkan registrasi model-model terkenal, serta alat deteksi yang komprehensif,” desak Sala. “Sampai saat itu tiba, pengguna AI yang cerdas harus berkonsultasi dengan layanan watermarking ad hoc masing-masing perusahaan untuk melihat apakah konten tersebut memiliki watermark.”
Juga: Tantangan saat ini: AI yang terlalu banyak bekerja dan keakuratannya dipertanyakan
Inisiatif C2PA mengadvokasi “berdasarkan penyebaran konten informasi, metadata transparan yang dapat dilampirkan ke data elektronik,” kata Thurai. Standar ini menyamakan kualifikasi konten dengan ‘label makanan’ yang dapat dilampirkan oleh pembuat konten ke konten digital mereka, yang dapat digunakan untuk melacak konten.” Dengan standar terbuka ini, penerbit, pembuat konten, dan konsumen akan dapat “menelusuri asal usul perubahan apa pun.” dalam konten media, termasuk gambar, video, audio dan teks,” tambahnya.
Cara kerjanya adalah para pencipta “dapat dikenali atas karya mereka secara online dengan memasukkan informasi seperti nama atau akun media sosial mereka pada konten mereka,” kata Thurai. Ini mungkin termasuk mengklik pin pada produk atau mengunjungi situs web untuk mengonfirmasi produk asli. Alat-alat tersebut “mengonfirmasi informasi yang relevan, serta memberikan riwayat perubahan yang terperinci dari waktu ke waktu.”
