Gambar yang dihasilkan AI dapat digunakan untuk mengelabui Anda agar percaya bahwa gambar palsu itu nyata. Demikian pula, pengembang OpenAI ChatGPT telah mengembangkan alat yang bertujuan untuk memprediksi apakah suatu gambar dibuat menggunakan generator gambar DALL-E 3. Namun, keberhasilan tim pengenalan gambar bergantung pada cara gambar tersebut diedit.
Pada hari Selasa, OpenAI memberi kelompok penguji pertama akses ke alat analisis gambar barunya. Tujuannya adalah merekrut peneliti independen untuk mengevaluasi kinerja alat tersebut, mengevaluasi kinerja alat tersebut dalam situasi dunia nyata, menentukan cara penggunaannya, dan mencari faktor yang memvalidasi konten yang dihasilkan AI. Peneliti yang tertarik dapat mengajukan permohonan akses ke situs web DALL-E Detection Classifier Access Program.
Juga: Mesin grafis AI terbaik untuk dicoba saat ini
OpenAI telah menguji alat ini secara internal, dan sejauh ini hasilnya menjanjikan dalam beberapa hal dan mengecewakan dalam beberapa hal. Saat menganalisis gambar yang dihasilkan oleh DALL-E 3, alat tersebut mengidentifikasi 98% dengan benar. Selain itu, saat menganalisis gambar yang tidak dihasilkan oleh DALL-E 3, alat tersebut hanya salah mengidentifikasi gambar tersebut sebagai yang dihasilkan oleh DALL-E 3 sekitar 0,5%.
Perubahan kecil pada grafis berdampak kecil, menurut OpenAI. Penguji internal dapat mengompresi, memotong, dan menerapkan penyesuaian kepadatan pada gambar yang dihasilkan oleh DALL-E 3, dan alat tersebut menunjukkan sedikit pengurangan namun efektif. Sejauh ini bagus.
Sayangnya, alat ini tidak berfungsi dengan baik dengan gambar yang terlalu banyak berubah. Dalam postingan blognya, OpenAI tidak mengungkapkan jumlah pasti dalam kasus ini, kecuali mengatakan bahwa “beberapa perubahan, bagaimanapun, dapat mengurangi kinerja.”
Kinerja alat tersebut menurun dalam kondisi seperti perubahan kualitas gambar, kata peneliti OpenAI Sandhini Agarwal kepada The Wall Street Journal (perlu registrasi). OpenAI berharap dapat memperbaiki masalah seperti ini dengan memberikan akses ke alat tersebut kepada penguji eksternal, tambah Agarwal.
Juga: Cara menggunakan DALL-E 3 di ChatGPT
Pengujian internal juga menantang alat analisis gambar yang dibuat menggunakan model AI dari perusahaan lain. Karena alasan ini, alat OpenAI mampu mengenali 5% hingga 10% gambar dari model eksternal ini. Melakukan perubahan pada gambar tersebut, seperti mengubah warna, juga menyebabkan penurunan performa yang signifikan, kata Agarwal kepada Journal. Ini adalah batasan lain yang OpenAI harap dapat diperbaiki dan diuji lagi.
Salah satu fitur penting OpenAI – tidak bergantung pada tanda air. Beberapa perusahaan menggunakan tanda air untuk menunjukkan bahwa suatu gambar dibuat oleh alat AI mereka, namun tanda air ini dapat dengan mudah dihapus sehingga menjadikannya tidak berguna.
Gambar yang dihasilkan AI sangat penting pada tahun pemilu. Pihak-pihak yang bermusuhan, baik di dalam maupun di luar negeri, dapat dengan mudah menggunakan gambar-gambar tersebut untuk menjebak perwakilan politik atau menyebabkan misinformasi. Mengingat kemajuan generator gambar AI, pendeteksian gambar asli dan palsu menjadi semakin umum.
Juga: Kami belum menyiapkan hasil AI pengambilan keputusan
Mengingat hal ini, OpenAI dan Microsoft telah meluncurkan Dana Ketahanan Masyarakat senilai $2 juta untuk memperluas pendidikan dan literasi AI di kalangan pemilih dan komunitas rentan. Karena 2 miliar orang di seluruh dunia telah atau akan memilih dalam pemilu demokratis tahun ini, tujuannya adalah untuk memastikan bahwa masyarakat dapat mengelola informasi digital secara efektif dan mendapatkan informasi yang dapat diandalkan.
OpenAI juga mengumumkan bahwa mereka bergabung dengan Komite Pengarah C2PA (Koalisi untuk Asal dan Keaslian Konten). Digunakan sebagai bukti bahwa konten berasal dari sumber tertentu, C2PA adalah standar otentikasi digital yang diadopsi oleh penyedia perangkat lunak, produsen kamera, dan platform online. OpenAI mengatakan bahwa metadata C2PA disertakan dalam semua gambar yang dibuat dan diedit di DALL-E 3 dan ChatGPT, dan akan segera muncul dalam video yang dibuat oleh pembuat video Sora OpenAI.
