Ada lebih banyak kedalaman politik daripada yang Anda pikirkan, menurut pakar AI ini

Seberapa besar kedalaman politik yang ada? Banyak masyarakat yang berpengetahuan luas dapat mengingat peristiwa-peristiwa politik besar, seperti “robocall” yang dilakukan oleh Presiden Joe Biden pada bulan Januari kepada para pemilih di New Hampshire, yang ternyata merupakan suara yang dihasilkan oleh AI. Meskipun tidak ada statistik resmi mengenai kecerdasan buatan (AI) secara mendalam, orang yang skeptis mungkin berpikir bahwa hal tersebut tidak diketahui, karena hanya sedikit yang diketahui yang dilaporkan.

Namun, menurut salah satu pakar AI, mungkin saja deepfake AI sedang meningkat sebelum pemilihan presiden AS pada bulan November — Anda tidak akan banyak melihatnya.

Selain itu: 80% masyarakat berpendapat bahwa kedalaman laut akan mempengaruhi pemilu. Berikut cara mempersiapkannya

“Saya bertaruh seribu dolar bahwa kita akan melihat lebih banyak lagi (deepfakes) ini” pada bulan November, “karena ini menjadi lebih mudah untuk dibuat,” kata Oren Etzioni, pendiri organisasi nirlaba TrueMedia, dalam sebuah wawancara. dengan ZDNET bulan lalu.

“Saya tidak bisa mendorong Anda untuk bertaruh, karena saya punya lebih dari Anda,” lanjutnya sambil tertawa.

TrueMedia menjalankan server yang merakit beberapa program pengklasifikasi berbasis AI dengan tujuan mengetahui apakah gambarnya dalam atau tidak. Organisasi ini disponsori oleh salah satu pendiri Uber, Garrett Camp, Camp.org.

Saat pengguna mengunduh gambar, TrueMedia akan menghasilkan teks yang bertuliskan “tidak pasti”, dengan warna kuning, “sangat mencurigakan”, merah, atau gelembung hijau dengan “benar” jika model AI dipastikan bukan deepfake. Anda dapat melihat demo dan mendaftar untuk program beta di sini.

Etzioni, seorang profesor di Universitas Washington, juga merupakan direktur pendiri Allen Institute for AI, yang telah melakukan banyak pekerjaan dalam mengidentifikasi produk AI.

Etzioni berpendapat wajar jika mengatakan “tidak banyak” informasi yang beredar secara terbuka saat ini. Namun, dia menambahkan bahwa banyak dari apa yang ada di luar sana mungkin tidak dikenali oleh masyarakat umum.
“Apakah kamu tahu apa yang terjadi di Telegram?” katanya, mengacu pada dinas komunikasi rahasia.

Juga: Ketika agen AI menyebar, risikonya juga meningkat, kata para ahli

Startup tersebut mengatakan TrueMedia melihat bukti bahwa pengembang konten meningkatkan produksinya akhir tahun ini, menjelang musim pemilu. “Kami melihat latihan, kami melihat uji coba balon, kami melihat orang-orang menyiapkan segalanya,” katanya – dan tidak hanya di AS.

“Tahun ini sangat penting, karena kita sedang berjuang dalam beberapa pemilu, dan teknologi (deepfakes) telah tersebar luas,” katanya.

Untuk mempersiapkannya, TrueMedia telah mengembangkan jaringan teknologi dan infrastruktur. Organisasi ini menjalankan algoritmenya sendiri pada skenario yang paling mungkin terjadi sambil membayar startup seperti Reality Defender dan Sensity untuk menjalankan algoritme mereka bersama-sama, termasuk eksperimen dan meninjau temuan mereka.

“Dibutuhkan banyak upaya untuk menangani tsunami palsu yang kita lihat ini awalnya,” kata Etzioni. “Tidak ada obat mujarab, yang berarti tidak ada satu vendor atau model yang mendapatkan semuanya.”

Juga: Apa Gejala Internalnya?

Pertama-tama, TrueMedia memainkan berbagai format sumber terbuka. “Kami menjalankan kelompok yang mengatakan ya atau tidak” terhadap segala hal yang mungkin serius, kata Etzioni. Dijalankan sebagai sebuah tim, penilai dapat mengumpulkan semua jenis jawaban — dan tim melihat akurasi lebih dari 90%.

“Beberapa dari tim ini memiliki model reproduksi di dalamnya, tetapi kami tidak hanya menjalankan Transformers,” lanjut Etzioni, mengacu pada “kepedulian” AI yang memberi jalan kepada beberapa tim lainnya, termasuk GPT-4. , Gemini dari Google, Claude dari Anthropic, dan Llama dari Meta.

TrueMedia saat ini tidak menyediakan sumber warna, atau mempublikasikan data teknis atau pendidikan. “Kami berhati-hati mengenai sumber dan metode untuk saat ini,” kata Etzioni. “Kami adalah organisasi nirlaba, jadi kami tidak mencoba menciptakan kepemilikan – hanya saja kami berada dalam posisi yang tidak biasa karena kami berada di wilayah musuh.”

Etzioni berharap pengungkapan lebih lanjut dapat dilakukan tepat waktu. “Kita hanya perlu menemukan arsitektur yang tepat,” katanya.

Juga: VLOGGER AI versi Google dapat membuat avatar video dari foto – apa yang salah?

Untuk membantu menjalankan semua model ini, TrueMedia telah meminta bantuan startup OctoAI, yang didirikan oleh teman dan kolega Etzioni di Universitas Washington, Luis Ceze.
OctoAI, yang berupaya meningkatkan kinerja AI di seluruh komputer dan sistem, menjalankan layanan cloud untuk mengoptimalkan kinerja model pelatihan dan mencapai prediksi. Pengembang yang ingin menjalankan LLM dan sejenisnya dapat menerapkan model mereka, dan OctoAI akan mengurus sisanya.

Persyaratan TrueMedia “sangat sulit, karena kami semua mendapatkan API vendor, dan kami menggunakan banyak merek kami, untuk memperbaikinya,” kata Etzioni. “Dan kita harus sangat memperhatikan keamanan karena ini adalah tempat di mana Anda dapat menjadi sasaran dan ditolak bekerja.”

Juga: Melayani kecerdasan buatan menjadi lebih mudah dengan OctoAI

TrueMedia dan mitranya mengantisipasi lonjakan pertanyaan serius. “Terutama menjelang pemilu, kami memperkirakan volumenya akan meningkat secara signifikan” sebagai jawaban atas pertanyaan terhadap model tersebut, kata Ceze dalam sebuah wawancara dengan ZDNET.

Peningkatan yang akan terjadi berarti kecepatan dan skala menjadi perhatian. “Kami, seperti semua orang, ingin masyarakat menggunakannya, dan kami ingin media menggunakannya dan memverifikasi gambar-gambar tersebut,” kata Ceze. “Kami ingin masyarakat tidak menunggu terlalu lama atau berkecil hati.”

“Hal terakhir yang kami inginkan adalah gagal karena penolakan layanan, atau gagal karena kami tidak menyiapkan penskalaan dengan benar,” kata Etzioni. Menurutnya TrueMedia sudah memiliki ribuan pengguna. Ia berharap, seiring berjalannya waktu, “akan ada beberapa organisasi terkemuka di dunia yang menggunakan alat kami, dan kami akan memiliki ribuan pengguna.”

Jadi bagaimana TrueMedia mengetahui jika hal itu memengaruhi Anda?

“Apakah kita akan menghentikan guncangan pemilu?” keluh Etzioni. “Anda tahu, Anda bisa menggunakan kata-kata indah seperti ‘melindungi integritas proses pemilu’; itu sangat berarti bagi saya. Saya hanya ingin alat itu tersedia.”

Selain itu: Semua perhatian tertuju pada pertahanan siber saat pemilu memasuki era AI buatan

Bagi Etzioni, tujuannya adalah untuk menciptakan transparansi — dan percakapan — seputar masalah ini. Konten TrueMedia bersifat publik, sehingga pemirsa dapat berbagi, membandingkan, dan mengkritik temuan mereka. Diperlukan penelitian lebih lanjut: meski akurasinya lebih dari 90%, Etzioni mengakui bahwa grup TrueMedia tidaklah sempurna. “Sama seperti ChatGPT yang tidak bisa menghindari ilusi, kita juga tidak bisa menghindari kesalahan,” katanya.

Mereka yang skeptis akan mempertanyakan jenis pengaruh yang dilakukan oleh organisasi nirlaba tanpa kode sumber, yang rangkaian pelatihannya tidak terbuka untuk pengawasan publik. Mengapa ada orang yang harus mempercayai konten yang diproduksi TrueMedia?

“Saya pikir itu pertanyaan yang bagus,” kata Etzioni. “Kita hanya tinggal enam minggu lagi, masih banyak yang harus kita lakukan.”

Meski begitu, Etzioni menekankan keterbukaan pendekatan TrueMedia, dibandingkan opsi lain. “Kami terbuka dalam hal hasil, tidak seperti banyak alat lain yang tersedia atau dijual,” katanya.

TrueMedia memperkirakan akan mempublikasikan analisis tren ini dalam beberapa minggu mendatang. “Kami membuat orang berpikir dua kali tentang apa yang mereka lihat di media,” katanya.