Seperti Google, Meta, dan Microsoft, OpenAI menawarkan chatbot online dan alat kecerdasan buatan lainnya yang dapat menulis kiriman media sosial, menghasilkan gambar fotorealistik, dan menulis program komputer. Dalam laporannya, perusahaan mengatakan bahwa alat-alatnya telah digunakan dalam kampanye pengaruh yang telah dilacak oleh para peneliti selama bertahun-tahun, termasuk kampanye Rusia yang disebut Doppelganger dan kampanye China yang disebut Spamouflage.
Posting kampanye pengaruh di Telegram yang menurut OpenAI dihasilkan dengan alat-alatnya. Kredit: via OpenAI
Kampanye Doppelganger menggunakan teknologi OpenAI untuk menghasilkan komentar anti-Ukraina yang diposting di X dalam bahasa Inggris, Prancis, Jerman, Italia, dan Polandia, kata OpenAI. Alat-alat perusahaan juga digunakan untuk menerjemahkan dan mengedit artikel yang mendukung Rusia dalam perang di Ukraina ke dalam bahasa Inggris dan Prancis, serta mengkonversi artikel berita anti-Ukraina menjadi kiriman Facebook.
Alat-alat OpenAI juga digunakan dalam kampanye Rusia yang sebelumnya tidak diketahui yang ditargetkan pada orang-orang di Ukraina, Moldova, Negara Baltik, dan Amerika Serikat, terutama melalui layanan pesan Telegram, kata perusahaan. Kampanye menggunakan kecerdasan buatan untuk menghasilkan komentar dalam bahasa Rusia dan Inggris tentang perang di Ukraina, serta situasi politik di Moldova dan politik Amerika. Upaya tersebut juga menggunakan alat OpenAI untuk mendeteksi bug kode komputer yang tampaknya dirancang untuk secara otomatis memposting informasi ke Telegram.
Komentar politik tersebut hanya sedikit mendapat balasan dan “suka”, kata OpenAI. Upaya tersebut juga terkadang tidak canggih. Pada satu titik, kampanye memposting teks yang jelas dibuat oleh AI. “Sebagai model bahasa AI, saya di sini untuk membantu dan memberikan komentar yang diinginkan,” kata sebuah posting. Pada titik lain, kampanye memposting dalam bahasa Inggris yang buruk, membuat OpenAI menyebut upaya tersebut sebagai “Tata Bahasa Buruk.”
Spamouflage, yang sejak lama dikaitkan dengan Tiongkok, menggunakan teknologi OpenAI untuk mendeteksi bug kode, meminta saran tentang cara menganalisis media sosial dan riset peristiwa terkini, kata OpenAI. Alat-alatnya juga digunakan untuk menghasilkan kiriman media sosial yang merendahkan orang-orang yang telah mengkritik pemerintah Tiongkok.