Apakah AI menulis bagian ini?
Pertanyaan seperti ini merupakan pertanyaan bersahabat ketika Kecerdasan Buatan generatif (gen AI) mulai muncul di berita arus utama. Dua tahun kemudian, ketika orang-orang di seluruh dunia menggunakan AI untuk berbagai tujuan, beberapa orang memunculkan pertanyaan penting tentang kelangsungan jangka panjang dari teknologi baru ini.
Bulan lalu, penggemar grup populer Korea Selatan Seventeen mempermasalahkan laporan BBC yang secara keliru mengklaim bahwa grup tersebut menggunakan AI untuk menulis lagu. Woozi, salah satu anggota grup dan otak kreatif utama di balik sebagian besar musik grup, mengatakan kepada wartawan bahwa dia bereksperimen dengan AI untuk memahami perkembangan teknologi dan mengidentifikasi pro dan kontranya.
Juga: Hilang dalam terjemahan: Chatbots AI sebagian besar masih berakar pada bahasa Inggris, demikian temuan sebuah penelitian di Stanford
BBC membantah upaya yang mengklaim bahwa Seventeen telah menggunakan AI untuk perilisan album terbarunya. Tak heran, kesalahan tersebut menimbulkan kegemparan, hingga para penggemar kesal karena Seventeen telah dikenal sebagai grup “buatan sendiri” sejak pertama kali membuat musik. Ke-13 anggotanya terlibat dalam penulisan lagu, produksi musik, dan tarian band.
Pendukung mereka melihat merek AI sebagai penghinaan terhadap pemikiran kreatif kelompok tersebut. “(Seventeen) menulis, memproduseri, membuat koreografi! Mereka punya bakat… dan mereka pasti tidak membutuhkan AI atau apa pun,” kata salah satu penggemar di X, sementara yang lain menggambarkan logo AI sebagai penghinaan terhadap upaya tim dan kesuksesan. .
Kisah tersebut mendorong Woozi untuk menulis di Instagram Stories-nya: “Ketujuh belas lagu ditulis dan diproduksi oleh pencipta manusia.”
Perempuan, perdamaian, dan keamanan
Tentu saja, AI yang melemahkan kemampuan manusia bukanlah satu-satunya perhatian dari teknologi yang berkembang pesat di dunia kita – dan jauh dari perhatian utama. Masalah sistemik seputar AI dapat — mungkin — mengancam keselamatan dan kesejahteraan banyak orang di Bumi.
Secara khusus, ketika teknologi mengambil alih, AI dapat membahayakan keselamatan perempuan, menurut penelitian terbaru yang dilakukan oleh UN Women dan UN University Institute Macau (UNU Macau). Studi tersebut mengungkapkan bahwa bias gender dalam praktik AI yang populer menimbulkan hambatan besar terhadap efektivitas penggunaan AI dalam mendukung perdamaian dan keamanan di kawasan seperti Asia Tenggara.
Studi pada bulan Mei 2024 menganalisis hubungan antara AI; keamanan digital; dan isu-isu perempuan, perdamaian, dan keamanan di Asia Tenggara. AI diperkirakan akan meningkatkan perekonomian kawasan ini sebesar $1 triliun pada tahun 2030.
Juga: Ancaman AI ada dimana-mana – dan kini MIT menambahkan semuanya ke dalam satu database
“Meskipun penggunaan AI untuk perdamaian dapat memberikan banyak manfaat, seperti meningkatkan integrasi dan kemampuan pencegahan konflik serta melacak bukti pelanggaran hak asasi manusia, AI digunakan secara tidak proporsional antara laki-laki dan perempuan, dan ketidaksetaraan gender mengakibatkan kurangnya peluang bagi perempuan untuk mendapatkan manfaat dari hal tersebut. teknologi ini,” kata laporan itu.
Upaya harus dilakukan untuk mengurangi risiko penggunaan sistem AI, terutama di media sosial, dan alat-alat seperti chatbots dan telepon seluler, menurut laporan tersebut. Upaya juga harus dilakukan untuk mendorong pengembangan alat AI untuk mendukung “perdamaian berbasis gender.”
Penelitian menunjukkan bahwa alat yang membantu orang membuat dokumen, gambar, dan video tersedia di mana saja tanpa mempertimbangkan gender atau keamanan nasional atau internasional.
Juga: Jika chatbots ini dapat berbicara: Cara paling populer orang menggunakan alat AI
“Gen AI mendapat manfaat dari publikasi bahasa besar seperti ChatGPT, yang memungkinkan pengguna meminta teks yang dapat dibaca berdasarkan nada, karakter, dan tampilan,” ujarnya. “Gen AI menimbulkan ancaman dalam mempercepat penyebaran informasi dengan membantu dengan cepat membuat konten yang tampak benar dalam skala besar. Hal ini juga mempermudah pembuatan bot media sosial yang meyakinkan yang dengan sengaja membagikan konten yang bersifat polarisasi, penuh kebencian, dan menyinggung. “
Studi tersebut mengutip studi tahun 2023 di mana para peneliti dari Association for Computational Linguistics menemukan bahwa ketika ChatGPT disajikan dengan 100 berita palsu, 80% dari berita tersebut salah.
Laporan PBB menunjukkan bagaimana para peneliti di seluruh dunia telah memperingatkan tentang bahaya pornografi palsu dan acara ekstrem selama beberapa tahun. Namun, perkembangan terkini dalam AI telah meningkatkan cakupan masalahnya.
“Sistem pemrosesan gambar AI terbukti menghasilkan konten cabul, termasuk membuat gambar seksis berdasarkan gambar atau gambar orang-orang yang terlibat dalam stereotip seksis dan rasis,” demikian bunyi laporan UN Women.
“Teknologi ini akan membantu membuat video yang lebih dalam dan jelas, sementara video palsu dapat dibuat oleh siapa saja berdasarkan keterangan foto. Penerimaan, ini akan menghasilkan profil seumur hidup dan hasil terkait keamanan.”
Saat ketakutan nyata beredar di Internet
Survei pada bulan Januari 2024 dari spesialis keamanan informasi CyberArk juga mengatakan kekhawatiran tentang integritas informasi digital sedang meningkat. Sebuah survei terhadap 2.000 karyawan di Inggris mengungkapkan bahwa 81% karyawan khawatir identitas mereka akan dicuri atau digunakan dalam aktivitas kriminal dunia maya, sementara 46% khawatir identitas mereka akan digunakan secara lebih serius.
Secara khusus, 81% perempuan merasa khawatir terhadap penjahat dunia maya yang menggunakan AI untuk mencuri privasi melalui penipuan digital, dibandingkan dengan 74% laki-laki yang memiliki kekhawatiran yang sama. Lebih banyak perempuan (46%) juga khawatir bahwa AI digunakan dalam kecerdasan buatan, dibandingkan dengan 38% laki-laki yang merasakan hal yang sama.
Survei CyberArk menemukan bahwa 50% wanita khawatir AI akan digunakan seperti mereka, dibandingkan dengan 40% pria yang memiliki kekhawatiran serupa. Selain itu, 59% wanita khawatir bahwa AI digunakan untuk mencuri informasi pribadi mereka, dibandingkan dengan 50% pria yang merasakan hal yang sama.
Selain itu: Laki-laki milenial lebih cenderung mengikuti kursus AI generasi terbaik, menurut laporan
Saya bertemu dengan COO CyberArk, Eduarda Camacho, dan percakapan kami membahas mengapa perempuan lebih peduli terhadap AI. Bukankah seharusnya perempuan merasa aman di platform digital karena mereka tidak perlu mengungkapkan identitas mereka, seperti gender?
Camacho mengatakan bahwa perempuan mungkin lebih sadar akan bahaya Internet dan kekhawatiran ini mungkin terkait dengan bahaya yang dirasakan sebagian perempuan ketika mereka tidak online. Ia mengatakan bahwa perempuan sering menjadi korban dan pelecehan secara online dan disalahartikan di media sosial.
Kekhawatiran tersebut juga tidak berdasar. Camacho mengatakan AI bisa berdampak besar pada informasi online. CyberArk berspesialisasi dalam manajemen informasi dan sangat terlibat dalam masalah ini.
Khususnya, deepfake menjadi lebih sulit dideteksi seiring kemajuan teknologi. Meskipun 70% organisasi yakin bahwa karyawan mereka dapat memperoleh wawasan mendalam tentang tim kepemimpinan mereka, Camacho mengatakan jumlah ini hanyalah perkiraan, mengutip bukti dari Laporan Lanskap Ancaman 2024 CyberArk.
Juga: Para ahli ini percaya bahwa AI dapat membantu kita memenangkan perang keamanan siber
Survei pada bulan Juli 2024 dari vendor informasi digital Jumio menemukan 46% responden percaya bahwa mereka dapat mengidentifikasi diri sebagai politisi. Warga Singapura merupakan negara yang paling percaya diri, yaitu sebesar 60%, diikuti oleh warga Meksiko sebesar 51%, Amerika Serikat sebesar 37%, dan Inggris sebesar 33%.
Jika dibiarkan berkembang biak dan terus berlanjut di platform media sosial, penipuan yang disebabkan oleh AI dapat mendatangkan malapetaka dan merugikan banyak orang, termasuk kelompok rentan. Informasi ini dapat menyebar dengan cepat bila dibagikan kepada orang-orang yang mempunyai akses ke Internet.
Sebuah penelitian pekan lalu menunjukkan bahwa komentar Elon Musk tentang pemilu AS – yang dikatakan salah atau salah – dilihat hampir 1,2 miliar kali di situsnya XX, menurut penelitian Center for Counting Digital Hate (CCDH). ). Dari 1 Januari hingga 31 Juli, CCDH menganalisis catatan pemilu Musk dan mengidentifikasi 50 catatan yang ditolak oleh penyelidik.
Postingan Musk pada video buatan AI yang menampilkan calon presiden AS Kamala Harris telah dilihat hampir 133 juta kali. Postingan tersebut tidak ditandai dengan tanda peringatan, melanggar kebijakan platform, yang menyatakan bahwa pengguna tidak boleh “membagikan materi buatan, berbahaya, atau berbahaya yang dapat menipu atau membingungkan orang dan menyebabkan kerugian,” kata CCDH.
“Kurangnya Catatan Komunitas pada dokumen-dokumen ini menunjukkan bisnis (Musk) gagal membendung insentif yang kita semua tahu dapat mengarah pada kekerasan di dunia nyata, seperti yang kita alami pada 6 Januari 2021,” kata CCDH. CEO Imran Ahmed. “Sudah saatnya Pasal 230 Undang-Undang Kepatutan Komunikasi (AS) tahun 1986 diubah agar perusahaan media sosial dapat memiliki tingkat akuntabilitas yang sama seperti surat kabar, radio, atau bisnis mana pun di Amerika.”
Yang juga membingungkan adalah bagaimana raksasa teknologi bersaing untuk mendapatkan kekuasaan dan pengaruh yang lebih besar.
“Melihat apa yang terjadi di Silicon Valley sungguh gila,” kata pengusaha dan investor Amerika Mark Cuban dalam sebuah wawancara dengan The Daily Show. “(Mereka) mencoba memposisikan diri mereka untuk memiliki kendali sebanyak mungkin. Itu bukan hal yang baik.”
“Mereka kehilangan kontak dengan dunia nyata,” kata Cuban.
Juga: X Elon Musk sekarang melatih Grok pada data Anda secara default – berikut cara untuk tidak ikut serta
Dia menambahkan, kehadiran X secara online memberi Musk kemampuan untuk terhubung dengan para pemimpin politik di seluruh dunia, serta algoritma berdasarkan preferensi Musk.
Ketika ditanya menurutnya arah AI, Cuban menunjuk pada evolusi teknologi dan mengatakan masih belum jelas jenis bahasa utama mana yang akan mendorong perkembangan di masa depan. Meski ia yakin hasilnya akan positif, ia mengatakan masih banyak ketidakpastian.
Ambil tindakan sebelum Anda mulai mengerjakan AI
Jadi bagaimana kita melakukannya? Pertama, kita perlu mengatasi kesalahpahaman bahwa AI adalah jawaban atas permasalahan kehidupan. Dunia usaha baru saja mulai bergerak lebih jauh dan mencoba mencari tahu nilai sebenarnya dari AI.
Selain itu, kami harus menghargai bahwa, antara keinginan untuk dibayar oleh AI dan keuntungan, beberapa keterampilan manusia masih lebih dihargai daripada AI – seperti yang telah dijelaskan dengan jelas oleh Seventeen dan para penggemar grup tersebut.
Namun bagi sebagian lainnya, AI disambut baik sebagai cara untuk mengatasi hambatan bahasa. Misalnya saja boy band Irlandia Westlife yang merilis lagu Mandarin pertama mereka yang dibuat dengan representasi suara AI dan diberi nama AI Westlife. Lagu tersebut diproduksi bekerja sama dengan Tencent Music Entertainment Group.
Juga: Nvidia akan melatih 100.000 warga California tentang AI dalam kemitraan pertama.
Yang terpenting, seperti yang ditekankan dalam laporan PBB, permasalahan sistemik terkait AI harus diatasi – dan kekhawatiran ini bukanlah hal baru. Organisasi-organisasi dan masyarakat telah berulang kali menyoroti masalah-masalah ini, dan beberapa kali menyerukan penetapan langkah-langkah keamanan. Pemerintah memerlukan undang-undang dan penegakan hukum yang tepat untuk menghentikan pelanggar hukum.
Dan mereka perlu melakukan hal ini dengan cepat sebelum kekuatan AI menjadi terlalu kuat dan semua orang, tidak hanya perempuan, menghadapi tantangan keamanan seumur hidup.
