Laporan terbaru dari OpenAI mengungkapkan penyalahgunaan model AI oleh kelompok dari Israel untuk menyebarkan narasi anti-Hamas dan mempromosikan pesan-pesan pro-Israel.
Operasi ini, yang disebut 'Zero Zeno' oleh OpenAI, memanfaatkan teknologi AI untuk menghasilkan dan menyebarkan konten melalui akun-akun palsu di berbagai platform media sosial.
“Aktor ancaman Israel sewaan, memposting anti-Hamas, anti-Qatar, pro-Israel, anti-BJP, dan konten pro-Histadrut di internet,” isi dalam laporan OpenAI, Kamis (30/5/2024).
Apa itu taktik operasi 'Zero Zeno'?
Operasi 'Zero Zeno' mencakup pembuatan konten teks yang disebarkan di platform seperti X (sebelumnya Twitter), Facebook, Instagram, situs web, dan YouTube.
Firma manajemen kampanye politik asal Israel bernama STOIC diduga menjadi aktor di balik operasi ini. Konten yang dihasilkan meliputi artikel web dan komentar media sosial dalam bahasa Inggris dan Ibrani, dengan target audiens di Kanada, AS, dan Israel.
Fakta-fakta taktik operasi ‘Zero Zeno’
Dalam taktik ‘Zero Zeno’ yang diterapkan oleh Israel, terdapat beberapa fakta berdasarkan temuan OpenAI, berikut beberapa faktanya:
- Sasaran dan metode penyebaran
OpenAI mengidentifikasi bahwa operasi tersebut juga menargetkan audiens di India. Akun-akun palsu yang diciptakan menggunakan model AI OpenAI mampu menghasilkan bio media sosial dengan berbagai variabel seperti usia, jenis kelamin, dan lokasi.
- Penyalahgunaan gambar AI
Operasi ini juga memanfaatkan gambar yang dihasilkan oleh model AI generative adversarial network (GAN), yang dapat diakses dan diunduh bebas dari internet.
Banyak akun palsu menggunakan gambar yang sama, hanya dengan nama yang berbeda, untuk membalas postingan di media sosial.
- Fokus pada konflik Gaza
Sebagian besar konten dari operasi 'Zero Zeno' berfokus pada konflik Gaza dan hubungan antara individu Yahudi dan Muslim. OpenAI menemukan konten serupa di empat situs yang menyamar sebagai aktivis yang fokus pada konflik Gaza, di antaranya, uc4canada(.)com, the-good-samaritan(.)com, ufnews(.)io, dan nonagenda(.)com.
Upaya OpenAI dalam mengatasi penyalahgunaan
OpenAI tidak tinggal diam dalam menghadapi penyalahgunaan ini. Mereka telah memantau dan menginvestigasi ancaman, serta bekerja sama dengan pihak lain di ekosistem AI untuk berbagi informasi tentang penyalahgunaan AI. Upaya ini mencakup:
- Mengganggu operasi ancaman, termasuk yang didukung negara.
- Bekerja sama dengan industri AI dan pemangku kepentingan untuk bertukar informasi.
- Mempublikasikan temuan secara terbuka untuk keselamatan masyarakat.
Demikian penjelasan terkait apa itu taktik ‘Zero Zeno’ yang dilakukan oleh Israel untuk membuat narasi anti Hamas yang kemudian disebarluaskan di berbagai media sosial.