matthewgenovesesongstudies.com, Maryland – Kejahatan terbaru yang melibatkan kecerdasan buatan (AI) terjadi pada pertengahan April lalu di sebuah sekolah menengah di Maryland, AS. Diberitakan ABC News, Kamis (9/5/2024), polisi menyebut kepala sekolah (Kep Sek) dituduh melakukan rasisme atas rekamannya yang ternyata palsu.
Para ahli mengatakan hal ini masih menjadi alasan lain mengapa semua orang, tidak hanya politisi dan selebriti, harus khawatir terhadap meluasnya penggunaan teknologi palsu.
“Setiap orang rentan terhadap serangan dan siapa pun dapat diserang,” kata Hani Farid, seorang profesor di Universitas California, Berkeley yang berspesialisasi dalam forensik digital dan misinformasi.
Ada beberapa hal yang perlu diketahui tentang penggunaan kecerdasan buatan terkini yang bisa berbahaya.
Susunan rekaman audio dan video bukanlah hal yang baru, namun ketika seseorang dapat dengan mudah bertukar informasi, hal tersebut merupakan fenomena baru, begitu pula dengan kemampuannya yang cepat menyebar di media sosial.
Klip audio palsu yang meniru suara sutradara adalah contoh seperangkat kecerdasan buatan yang dikenal sebagai kecerdasan buatan generatif yang dapat menghasilkan gambar video dan klip audio yang sangat realistis.
Jenis kecerdasan buatan ini murah dan mudah digunakan dalam beberapa tahun terakhir, sehingga memudahkan mereka yang memiliki akses internet untuk menggunakannya.
“Tahun lalu, siapa pun bisa mengakses layanan ini secara online,” kata Farid, seorang profesor di Berkeley. “Tidak ada yang bisa mengunduh suara siapa pun selama 30 detik.”
Farid mengatakan, rekaman tersebut bisa saja berasal dari pesan suara, postingan di media sosial, atau rekaman rahasia. Algoritme pembelajaran mesin menangkap cara seseorang berbicara. Kloning kemudian terdiri dari kata-kata yang diketik pada keyboard.
Farid mengatakan, teknologi tersebut akan lebih bertenaga dan mudah digunakan, termasuk untuk mengedit video.
Pihak berwenang Baltimore County mengatakan Dajon Darien, direktur olahraga di Pikesville High, telah menciptakan suara palsu untuk kepala sekolah Eric Eiswerth.
Polisi mengatakan rekaman palsu itu bersifat rasis dan anti-Semit. File audio tersebut muncul di email di kotak masuk beberapa guru sebelum diposting di media sosial.
Rekaman itu muncul setelah Eiswerth menyampaikan kekhawatirannya tentang pekerjaan Darien dan menuduhnya menyalahgunakan anggaran sekolah.
Pihak berwenang mengatakan catatan palsu itu memaksa Eiswerth beristirahat sementara polisi menjaga rumahnya. Panggilan telepon yang penuh kemarahan membanjiri sekolah ketika pesan-pesan menjijikkan muncul di media sosial.
Penyelidik meminta ahli dari luar untuk menganalisis video tersebut. Rekaman itu “berisi jejak konten yang dihasilkan AI diikuti dengan pengeditan buatan manusia,” kata seorang ahli, menurut catatan pengadilan.
Pendapat kedua Farid menemukan bahwa “beberapa catatan saling terkait,” menurut catatan tersebut.
Fareed mengatakan kepada Associated Press bahwa masih ada pertanyaan tentang bagaimana rekaman itu dibuat dan dia tidak akan mengonfirmasi bahwa rekaman itu seluruhnya dibuat dengan kecerdasan buatan.
Namun dengan meningkatnya kemampuan kecerdasan buatan, Farid mengatakan kasus di Maryland tetap menjadi “indikator pertama yang penting” mengenai perlunya manajemen teknologi yang lebih baik.
Banyak kasus misinformasi yang diciptakan oleh kecerdasan buatan dalam bentuk rekaman audio atau video.
Hal ini salah satunya karena teknologi telah berkembang begitu pesat sehingga telinga manusia tidak lagi dapat mendeteksi tanda-tanda gangguan. Perbedaannya mudah dilihat dalam video dan foto.
Para ahli mengatakan beberapa orang telah menyalin suara anak-anak yang dituduh melakukan penculikan melalui telepon untuk mendapatkan uang tebusan dari orang tua mereka. Ada juga yang berpura-pura menjadi eksekutif kunci di perusahaan yang sangat membutuhkan pendanaan.
Semasa sekolah dasar di New Hampshire tahun ini, panggilan robot buatan AI mengikuti suara Presiden Joe Biden dan mencoba membujuk pemilih Partai Demokrat untuk tidak memilih. Para ahli memperingatkan peningkatan informasi palsu yang dihasilkan oleh AI yang menargetkan pemilu AS tahun ini.
Namun tren yang mengkhawatirkan tidak hanya sebatas suara, ada juga program yang membuat foto bugil palsu dari kedua anak bersama-sama.
Baru-baru ini, penyanyi Taylor Swift menjadi sasaran.
Sebagian besar vendor teknologi suara AI mengatakan mereka melarang penggunaan perangkat berbahaya. Namun, beberapa langkah penerapannya berbeda.
Beberapa penyedia memerlukan jenis tanda suara tertentu atau mengharuskan pengguna mengucapkan satu set kalimat sebelum suara dapat dikloning.
Perusahaan teknologi besar seperti pembuat Meta dan ChatGPT OpenAI milik Facebook hanya mengizinkan sekelompok kecil pengguna tepercaya untuk bereksperimen dengan teknologi tersebut karena risiko penyalahgunaan.
Fareed mengatakan masih banyak yang harus dilakukan, seperti mewajibkan perusahaan untuk memberikan nomor telepon dan kartu kredit kepada pengguna sehingga mereka dapat melacak file di mana teknologi mereka disalahgunakan.
Gagasan lainnya adalah rekaman audio dan video ditandai secara digital.
“Anda mengubah nada dengan cara yang tidak dapat dideteksi oleh sistem fonetik manusia, namun dengan cara yang dapat diidentifikasi oleh perangkat lunak lokal,” kata Farid.
Alexander Reeve Gives, direktur eksekutif Pusat Demokrasi dan Teknologi, mengatakan intervensi yang paling efektif adalah tindakan penegakan hukum terhadap penggunaan kejahatan kecerdasan buatan.
“Mungkin sulit untuk menambahkan tanggung jawab hukum karena dalam banyak kasus hal ini bisa berdampak positif atau memberdayakan penggunaan teknologi,” kata Gives, merujuk pada penerjemah dan pembaca buku.
Tantangan lainnya adalah menemukan kesepakatan internasional mengenai etika dan pedoman, menurut Christian Mattman, direktur penelitian dan ilmu informasi di University of Southern California.
“Orang-orang menggunakan kecerdasan buatan dengan cara yang berbeda-beda, bergantung pada negara tempat mereka tinggal,” kata Mattman, dan tidak hanya oleh pemerintah tetapi juga masyarakat. Jadi budaya punya peran di sini.”