Baru-baru ini, OpenAI merilis laporan pertama mereka yang merinci bagaimana alat AI mereka telah dieksploitasi untuk disinformasi. Laporan tersebut mengungkapkan bahwa perusahaan ini telah mengganggu kampanye disinformasi di Rusia, China, Israel, dan Iran. Para pelaku jahat ini menggunakan model AI generatif OpenAI untuk menciptakan dan menyebarkan propaganda di media sosial, menerjemahkan konten ke berbagai bahasa. Meskipun demikian, tidak ada satu pun dari kampanye tersebut yang berhasil mencapai audiens besar atau mendapatkan perhatian signifikan, menurut laporan tersebut.
Daftar Isi
Penggunaan AI untuk Propaganda: Kekhawatiran atas Pertumbuhan Industri AI
Pertumbuhan pesat industri AI generatif telah menimbulkan kekhawatiran di kalangan peneliti dan pembuat kebijakan tentang potensinya untuk meningkatkan disinformasi online. Perusahaan seperti OpenAI, yang dikenal dengan produk ChatGPT, telah bekerja untuk mengatasi kekhawatiran ini dengan menerapkan langkah-langkah pengamanan, dengan hasil yang bervariasi.
Baca lainnya: Meta Menggunakan Postingan Media Sosial Pengguna Untuk Melatih AI
Laporan Terperinci tentang Penggunaan AI untuk Disinformasi
Laporan 39 halaman dari OpenAI ini adalah salah satu catatan paling rinci tentang bagaimana perangkat lunak AI digunakan untuk propaganda. Para peneliti perusahaan mengidentifikasi dan melarang akun-akun yang terkait dengan lima operasi pengaruh rahasia selama tiga bulan terakhir, yang melibatkan aktor negara dan swasta.
Di Rusia, dua operasi menciptakan dan mendistribusikan konten yang mengkritik AS, Ukraina, dan beberapa negara Baltik. Salah satu operasi menggunakan model OpenAI untuk debugging kode dan membuat bot untuk memposting di Telegram. Di China, para pelaku menghasilkan teks dalam berbagai bahasa, termasuk Inggris, Cina, Jepang, dan Korea, yang mereka posting di platform seperti Twitter dan Medium.
Aktor dari Iran memproduksi artikel lengkap yang menyerang AS dan Israel, menerjemahkannya ke dalam bahasa Inggris dan Prancis. Sebuah firma politik Israel bernama Stoic menjalankan jaringan akun media sosial palsu, menciptakan konten seperti postingan yang menuduh protes mahasiswa AS terhadap perang Israel di Gaza sebagai antisemitisme.
Upaya Penindakan dan Dampaknya
Beberapa penyebar disinformasi yang dilarang oleh OpenAI sudah dikenal oleh peneliti dan otoritas. Pada bulan Maret, Departemen Keuangan AS memberikan sanksi kepada dua pria Rusia yang terkait dengan salah satu kampanye yang terdeteksi. Meta juga melarang Stoic dari platformnya tahun ini karena pelanggaran kebijakan.
Baca lainnya: Kontroversi dan Langkah Strategis OpenAI: Apa yang Sebenarnya Terjadi?
Laporan tersebut menekankan bahwa kampanye disinformasi menggunakan AI generatif, tetapi bukan satu-satunya alat yang digunakan. Mereka memposting materi yang dihasilkan AI bersama dengan format tradisional seperti teks yang ditulis secara manual dan meme yang disalin dari internet.
“Semua operasi ini menggunakan AI sampai tingkat tertentu, tetapi tidak ada yang menggunakannya secara eksklusif,” kata laporan tersebut. Ini menunjukkan bahwa AI dipandang sebagai alat untuk meningkatkan aspek tertentu dari pembuatan konten, seperti membuat postingan dalam bahasa asing yang lebih meyakinkan, daripada solusi mandiri untuk propaganda.
Tren Global dan Tindakan Masa Depan
Selama setahun terakhir, aktor jahat telah menggunakan AI generatif secara global untuk mempengaruhi politik dan opini publik. Ini termasuk audio deepfake, gambar yang dihasilkan AI, dan kampanye berbasis teks yang bertujuan mengganggu proses pemilihan. Tren ini telah menyebabkan tekanan yang meningkat pada perusahaan seperti OpenAI untuk membatasi penyalahgunaan alat mereka.
OpenAI mengumumkan bahwa mereka berencana untuk merilis laporan serupa secara berkala dan akan terus menghapus akun yang melanggar kebijakan mereka. Upaya berkelanjutan ini menegaskan komitmen perusahaan untuk memerangi penyalahgunaan AI dalam kampanye disinformasi.
Baca lainnya: Awas! Lebih dari 90 Aplikasi Android Berbahaya Ditemukan di Google Play, Merugikan Jutaan Pengguna
Dengan melaporkan dan mengambil tindakan tegas terhadap penyalahgunaan AI, OpenAI berupaya menjaga integritas teknologi mereka dan melindungi publik dari ancaman disinformasi yang berkembang.
