matthewgenovesesongstudies.com, Jakarta – Perusahaan teknologi kecerdasan buatan OpenAI menerbitkan laporan yang menyatakan bahwa alat kecerdasan buatan digunakan dalam operasi rahasia di Israel, Rusia, China, dan Iran untuk menyebarkan disinformasi.
Mengutip The Guardian, Kamis (6/6/2024), pelaku kejahatan menggunakan model AI generatif dari OpenAI untuk membuat dan mengunggah konten propaganda ke platform media sosial. AI generatif juga digunakan untuk menerjemahkan konten ke berbagai bahasa.
Laporan tersebut juga mengungkapkan bahwa sejauh ini tidak ada kampanye jahat yang menjangkau khalayak luas.
Namun, seiring dengan berkembangnya industri AI generatif, terdapat kekhawatiran luas di kalangan peneliti dan pembuat kebijakan bahwa AI akan digunakan untuk meningkatkan jumlah misinformasi di Internet.
Pengembang ChatGPT, OpenAI, telah berupaya untuk mengurangi kekhawatiran ini dan menerapkan batasan dalam teknologinya.
Salah satu caranya adalah dengan laporan setebal 39 halaman dari OpenAI tentang penggunaan software miliknya (oleh pihak yang tidak bertanggung jawab) untuk periklanan.
OpenAI mengatakan para penelitinya menemukan dan melarang akun yang terkait dengan lima operasi dalam tiga bulan terakhir yang dilakukan oleh aktor negara dan swasta.
Dalam kasus Rusia, misalnya, dua operasi menciptakan dan mendistribusikan konten penting ke AS, Ukraina, dan beberapa negara Baltik lainnya.
Salah satu operasinya menggunakan model OpenAI untuk men-debug kode dan membuat bot yang diunggah ke Telegram.
Sebaliknya, pengaruh operasi Tiongkok telah menghasilkan teks dalam bahasa Inggris, Mandarin, Jepang, dan Korea yang kemudian dipublikasikan di X, juga dikenal sebagai Twitter dan Medium.
Aktor Iran ini memproduksi artikel dengan bantuan AI. Artikel ini menyinggung AS dan Israel. Artikel-artikel tersebut kemudian diterjemahkan ke dalam bahasa Inggris dan Prancis.
Kemudian, sebuah perusahaan politik Israel bernama Stoic menjalankan jaringan akun media sosial palsu yang menciptakan beragam konten. Ini termasuk publikasi yang menuduh protes mahasiswa AS terhadap serangan Israel di Gaza sebagai tindakan anti-Semitisme.
Meta, di sisi lain, juga memblokir perusahaan Israel Stoic dari platformnya karena melanggar kebijakan.
Beberapa distributor misinformasi yang diblokir oleh OpenAI di platformnya telah dilaporkan ke pihak berwenang. Sementara itu, Departemen Keuangan AS menjatuhkan sanksi terhadap dua orang Rusia yang diduga berada di balik salah satu kampanye yang terdeteksi oleh OpenAI.
Laporan OpenAI secara umum menyoroti bagaimana AI generatif digunakan dalam kampanye disinformasi sebagai sarana untuk meningkatkan aspek-aspek tertentu dalam pembuatan konten. Misalnya, kirimkan postingan yang lebih menarik dalam bahasa asing.
“Semua operasi ini menggunakan AI sampai batas tertentu, namun tidak ada yang menggunakannya secara eksklusif,” kata laporan itu.
Meskipun tidak ada kampanye disinformasi yang memberikan dampak signifikan, penggunaan teknologi OpenAI menunjukkan bagaimana pelaku kejahatan menganggap AI generatif memungkinkan mereka meningkatkan hasil propaganda.
Misalnya, menulis, menerjemahkan, dan mengirimkan konten dapat dibuat lebih efisien dengan menggunakan alat AI.
Selain itu, The Guardian mencatat bahwa selama setahun terakhir, pelaku kejahatan telah menggunakan kecerdasan buatan generatif di banyak negara di dunia untuk mempengaruhi politik dan opini publik.
Audio deepfake, gambar yang dihasilkan AI, dan kampanye berbasis teks dapat dihasilkan oleh AI dan digunakan untuk mengganggu kampanye pemilu.
Hal ini memberikan tekanan yang semakin besar pada perusahaan seperti OpenAI untuk membatasi penggunaan alat mereka.
Sementara itu, OpenAI mengatakan pihaknya berencana untuk secara berkala mengeluarkan laporan serupa mengenai operasi pengaruh rahasia dan menghapus akun yang melanggar kebijakannya.