Membangun celah keamanan sangat penting untuk menjaga kecerdasan buatan (AI) generatif tetap aman dari pelaku jahat, menciptakan gambar berbahaya, dan potensi penyalahgunaan lainnya. Untuk memastikan bahwa proyek AI terbaru dan terbesarnya seaman mungkin, Adobe pada hari Rabu memperluas perangkat lunak kerentanannya, yang memungkinkan peneliti keamanan menemukan dan mengungkap bug, termasuk Pedoman Konten dan Adobe Firefly.
Informasi Konten adalah metadata digital transparan yang bertindak sebagai “nutrisi”, memungkinkan pengguna melihat “bahan” konten, seperti nama pembuat, tanggal pembuatan, alat apa pun yang digunakan untuk membuat gambar (termasuk keluaran versi AI ), dan perubahan yang dilakukan.
Selain itu: Anda harus mempertimbangkan untuk menggunakan gambar yang dihasilkan AI jika Anda berkecimpung dalam bisnis membangun kepercayaan
Di era gambar yang dihasilkan AI, alat dasar ini dapat membantu orang mengidentifikasi produk kreatif dari produk buatan manusia. Namun hal ini hanya berlaku jika Jaminan Konten valid dan digunakan sebagaimana dimaksud. Adobe kini menggunakan langkah-langkah keamanan Konten melalui program bug bounty untuk memperkuat perlindungan terhadap potensi penyalahgunaan, seperti memposting positif palsu.
Beberapa generator gambar AI, seperti Adobe Firefly, secara otomatis menambahkan Persetujuan Konten ke konten yang dihasilkan AI. Firefly adalah rangkaian model AI Adobe yang dapat membuat gambar dari data, gambar lain, dan lainnya. Kelompok warna ini tersedia untuk umum melalui web mandiri dan program Adobe populer lainnya, termasuk Photoshop.
Rilis tersebut menyatakan bahwa Adobe ingin peneliti keamanan menguji Firefly terhadap ancaman keamanan utama Open Worldwide Application Security Project (OWASP) untuk aplikasi bahasa besar (LLM), seperti injeksi cepat, pengungkapan informasi sensitif, dan korupsi data. Adobe akan menggunakan tinjauan ini untuk fokus pada penelitiannya dan upaya lebih lanjut untuk mengatasi kelemahan Firefly.
“Melalui keterlibatan aktif dengan tim keamanan, kami berharap dapat mempelajari lebih lanjut tentang keamanan teknologi AI kami, yang akan memberikan masukan positif untuk program keamanan internal kami,” kata Adobe dalam rilisnya.
Selain itu: Google membayar $10 juta untuk perbaikan bug kepada peneliti keamanan pada tahun 2023
Adobe mengundang para peretas yang tertarik untuk berpartisipasi dalam program bug bounty untuk mengunjungi situs web Adobe HackerOne dan melamar melalui formulir ini, yang menanyakan pertanyaan tentang penelitian dan keahlian keamanan pelamar.
Selain Kredensial Konten dan Adobe Firefly, program bug bounty tersedia untuk sebagian besar aplikasi web Adobe serta versi desktop dan seluler dari aplikasi Creative Cloud-nya. Anda dapat menemukan daftar lengkap program yang disertakan di halaman Adobe Bug Bounty Program.
