Oleh  Jake Goldenfein, Fan Yang  (University of Melbourne, Melbourne) Daniel Angus (Queensland University of Technology, Brisbane)

DUNIA kita sedang berada di tengah disrupsi besar yang dipicu oleh perkembangan Kecerdasan Buatan (Artificial Intelligence/AI). Perusahaan-perusahaan yang menjual alat AI kini menjadi korporasi paling bernilai dalam sejarah modern, dengan valuasi triliunan dolar—melampaui PDB sebagian besar negara. Pengaruhnya merambah kehidupan sosial, komersial, dan politik, serta mengguncang berbagai industri.

Industri media termasuk di antara sektor yang menghadapi tantangan baru akibat kebangkitan AI. Praktik dan penyajian jurnalisme—komponen vital bagi demokrasi yang sehat—berubah dengan cara yang tidak selalu tampak oleh para konsumennya.

Untuk memahami dampak AI terhadap lingkungan informasi kita dan konsekuensi politiknya, diperlukan pemahaman dasar tentang apa itu GenAI dan bagaimana cara kerjanya. Kita perlu “mengangkat kap mesin” dari apa yang kian hari akan menggerakkan informasi yang kita terima dan konsumsi.

Data: Mesin penggerak AI generatif

Pengembangan GenAI dimulai dengan pengumpulan data dalam jumlah sangat besar—termasuk teks, gambar, video, dan suara—melalui penelusuran dan pengambilan data (crawling dan scraping) dari internet. Segalanya dikumpulkan sebagai data: jurnalisme, keluaran akademik, web publik, hingga percakapan teks. Ini diperkuat oleh kompilasi literatur yang diakses—tidak selalu secara legal—melalui perjanjian lisensi komersial dengan repositori media.

Keabsahan bentuk-bentuk pengumpulan data ini masih belum jelas dan telah memicu gugatan besar terkait hak cipta dan privasi di berbagai negara. Hal ini juga memantik perdebatan kebijakan dan regulasi mengenai syarat hukum akses data, serta keluhan keras dari para pekerja kreatif yang jerih payahnya menjadi fondasi pendapatan raksasa perusahaan teknologi AI multinasional.

Bagi teknologi AI ini, akses ke data saja tidak cukup. Data harus diubah menjadi himpunan data pelatihan yang melibatkan berbagai proses komputasi dan tenaga kerja manusia. Agar data bermakna dalam pelatihan AI, para pekerja data harus memberi label, membersihkan, menandai, memberi anotasi, dan memproses gambar serta teks, menciptakan keterkaitan semantik yang memungkinkan model GenAI menghasilkan respons bermakna terhadap “prompt” pengguna. Sebagian besar pekerjaan data ini dialihdayakan ke negara berbiaya lebih rendah seperti Kenya, India, dan China, di mana pekerja dibayar rendah dan menghadapi standar ketenagakerjaan yang buruk. Dataset tersebut kemudian digunakan untuk melatih model AI melalui proses pembelajaran mesin (machine learning).

Menguak cara kerja AI generatif

Mesin tidak belajar seperti manusia. Apa yang kita sebut “pembelajaran mesin” pada dasarnya adalah proses pengenalan pola statistik. Meski terdapat berbagai pendekatan pelatihan model, dalam banyak kasus proses ini melibatkan penyesuaian berulang terhadap sejumlah besar nilai internal. Prosesnya bersifat iteratif, artinya pelatihan diulang hingga prediksi cukup mendekati hasil yang diharapkan.

Setelah terlatih, model seperti yang menggerakkan ChatGPT—ketika diberi perintah, misalnya “tulis berita singkat tentang angka inflasi”—dapat menghasilkan rangkaian token (fragmen kata) yang secara statistik menyerupai cerita serupa yang dilihat selama pelatihan.

Yang krusial, sistem seperti ChatGPT tidak memahami dunia yang mereka gambarkan atau jelaskan. Mereka tidak memiliki pengetahuan semantik; artinya, mereka tidak memahami fakta atau konsep seperti apa itu “inflasi” atau seperti apa “unjuk rasa jalanan”. Sebaliknya, mesin ini adalah mesin pemodelan pola yang memprediksi konten apa yang paling mungkin melengkapi atau sesuai dengan suatu perintah. Singkatnya, keluaran AI hanyalah fungsi dari skala dan data pelatihan—bukan pemahaman.

Apa arti AI generatif bagi jurnalisme?

Kapasitas prediktif yang membuat AI generatif kuat juga membuatnya tidak andal. Prediksi bukanlah verifikasi. Sistem-sistem ini mengisi celah dengan sesuatu yang terdengar atau terlihat benar, bukan yang benar secara faktual.

Model AI generatif dapat menulis dengan fasih dalam hitungan detik, merangkum laporan panjang, atau memparafrasekan teks yang rumit. Ia juga dapat menghasilkan gambar peristiwa yang tampak fotorealistik. Namun, keluaran tersebut adalah produk alat prediktif mesin—bukan hasil verifikasi. Ketika AI dilatih dengan data yang bias atau tidak lengkap, ia dikenal dapat “berhalusinasi”: menghasilkan konten yang tampak meyakinkan tetapi tidak akurat atau tidak dapat diandalkan.

Perbedaan ini sangat penting bagi jurnalisme, yang bertumpu pada kebenaran dan verifikasi, bukan sekadar kemasukakalan.

Bagi jurnalis dan audiens, risikonya terletak pada ketidakmampuan memverifikasi konten yang dihasilkan AI. Ketika semakin banyak konten AI didorong ke ekosistem informasi tanpa pelabelan atau konteks yang jelas, lingkungan media menjadi kabur—perbedaan antara pelaporan dan simulasi, serta antara fakta dan rekayasa, makin sulit dibedakan.

Masa depan jurnalisme akan bergantung pada kemampuan institusi untuk beradaptasi dan mengatur penggunaan AI secara bermakna. Ini berarti bukan hanya mengembangkan standar editorial dan praktik verifikasi baru, tetapi juga meningkatkan upaya untuk memastikan bahwa data, tenaga kerja, dan energi yang menopang sistem-sistem ini dibuat terlihat dan dapat dipertanggungjawabkan.

Pertanyaannya bukan apakah AI akan membentuk ulang jurnalisme. Itu sudah terjadi. Pertanyaannya adalah apakah masyarakat demokratis dapat mencegah AI merusak kepercayaan terhadap institusi publik.

Bagi kita yang peduli dari mana informasi dan jurnalisme berasal (provenansinya), kemampuan manusia untuk memeriksa dan memverifikasi informasi tidak dapat menandingi kecepatan kilat chatbot dalam memuntahkan teks, data, dan gambar yang meragukan. Kecuali manusia dapat mengembangkan protokol dan metode untuk merebut kembali kendali, pengawasan, dan pemeriksaan sebelum membagikan keluaran mesin, kita berisiko mengalami erosi lebih lanjut atas fondasi masyarakat—kesepakatan atas fakta yang memungkinkan pemikiran rasional dan perilaku yang menyertainya.***

• Dr. Jake Goldenfein, dosen di Fakultas Hukum Universitas Melbourne dan Peneliti Utama di ARC Centre of Excellence for Automated Decision-Making and Society.
• Dr. Fan Yang juga berada di Fakultas Hukum Universitas Melbourne dan meneliti dampak teknologi digital internasional berskala besar.
• Daniel Angus, Profesor Komunikasi Digital dan Direktur Digital Media Research Centre QUT.