Institut Standar dan Teknologi Nasional (NIST) juga merilis alat yang menguji apakah model kecerdasan buatan (AI) dapat “diracuni” oleh data yang buruk.
Langkah ini dilakukan sembilan bulan setelah Perintah Eksekutif Presiden Biden mengenai pengembangan AI yang aman, terjamin, dan andal, dan merupakan tanggapan langsung terhadap perintah yang mengharuskan NIST membantu pengujian sampel. NIST baru-baru ini meluncurkan program yang membantu orang Amerika menggunakan AI tanpa terjebak oleh kecerdasan buatan, atau AI, yang mendorong pengembangan AI untuk membantu manusia.
Alat yang diberi nama Dioptra ini dirilis dua tahun lalu dan ditujukan untuk membantu usaha kecil dan menengah serta lembaga pemerintah. Dengan menggunakan alat ini, seseorang dapat menentukan model mana yang menyebabkan model AI mereka berperforma buruk dan menghitung penurunan kinerja untuk melihat apa yang menyebabkan model tersebut gagal.
Juga: Waspadai ‘runtuhnya paradigma’ AI: Bagaimana studi pemrosesan data mencemari generasi berikutnya
Mengapa ini penting?
Penting bagi organisasi untuk mengambil langkah-langkah untuk memastikan keamanan aplikasi AI. NIST mendorong lembaga pemerintah untuk menggunakan AI dalam berbagai sistem. Model AI belajar dari data yang ada, dan jika seseorang dengan sengaja memasukkan data yang buruk — misalnya, hal itu menyebabkan AI mengabaikan tanda berhenti atau batasan — NIST menunjukkan, konsekuensinya bisa menjadi bencana besar.
Meskipun revolusi AI memiliki semua manfaatnya, Direktur NIST Laurie E. Locascio mengatakan bahwa teknologi tersebut menimbulkan risiko yang jauh lebih besar dibandingkan dengan jenis perangkat lunak lainnya. “Dokumen peraturan dan platform pengujian ini akan memberi tahu pengembang tentang risiko unik ini dan membantu mereka mengembangkan strategi untuk memitigasi risiko tersebut sekaligus mendukung inovasi,” katanya dalam rilisnya.
Juga: Pedoman keamanan memberikan langkah pertama dalam perlindungan data dalam demam emas AI
Dioptra dapat menguji berbagai jenis integrasi, keamanan, dan arsitektur untuk memahami apa yang mungkin menyebabkan ancaman terbesar, kata NIST, dan solusi apa yang terbaik.
Alat ini tidak menjanjikan untuk menghilangkan semua risiko, namun mengklaim dapat membantu mengurangi risiko dan mendukung inovasi. Ini tersedia untuk diunduh gratis.
