VISI.NEWS | AMERIKA SERIKAT – OpenAI baru-baru ini memblokir sejumlah akun pengguna asal China yang diduga menggunakan ChatGPT untuk mengembangkan dan menyempurnakan alat pengawasan berbasis kecerdasan buatan. Kelompok ini, dalam operasi yang dinamakan “Peer Review,” meminta ChatGPT untuk menyusun promosi bagi perangkat lunak yang dirancang untuk memantau sentimen negatif terhadap China di berbagai platform media sosial seperti X (Twitter), Facebook, YouTube, dan Instagram.

Menurut OpenAI, jaringan akun ini menunjukkan pola aktivitas yang sesuai dengan jam kerja di China dan melakukan permintaan dalam bahasa Mandarin dengan volume yang mencerminkan pengoperasian manual, bukan otomatisasi. Investigasi lebih lanjut mengungkap bahwa kelompok tersebut menggunakan ChatGPT untuk mengoreksi laporan yang diklaim telah dikirim ke kedutaan besar China dan agen intelijen yang memantau aksi protes di berbagai negara, termasuk Amerika Serikat, Jerman, dan Inggris.

Peneliti utama OpenAI, Ben Nimmo, menyatakan bahwa ini adalah kali pertama perusahaan menemukan penggunaan AI dalam skala ini untuk tujuan pengawasan digital. Kelompok ini diduga mengandalkan model AI sumber terbuka dari Meta, seperti Llama, serta menggunakan ChatGPT untuk menyusun laporan tahunan yang mencakup aktivitas phishing demi kepentingan klien di China.

Selain itu, OpenAI juga mengungkap bahwa mereka telah memblokir akun yang menggunakan ChatGPT untuk menghasilkan konten propaganda, seperti postingan yang menyerang Cai Xia, seorang ilmuwan politik asal China yang kini tinggal di pengasingan di Amerika Serikat. Akun-akun tersebut juga memanfaatkan chatbot untuk membuat artikel berbahasa Spanyol yang mengkritik kebijakan Amerika Serikat, yang kemudian dipublikasikan oleh beberapa media di Amerika Latin.

OpenAI menekankan bahwa menilai dampak dari aktivitas ini memerlukan kolaborasi dengan berbagai pihak, termasuk pengelola model open-source, guna memahami lebih dalam bagaimana AI digunakan dalam operasi semacam ini. @ffr