Brasil Kewalahan Hadapi Ledakan Konten AI Jelang Pemilu 2026, Deepfake Jadi Ancaman Baru
AI dalam Pemilu Brasil 2026 mulai menjadi tantangan besar ketika konten buatan kecerdasan buatan membanjiri media sosial menjelang pemungutan suara pada 4 Oktober. Tribunal Superior Eleitoral atau TSE Brasil menghadapi tugas sulit untuk membedakan penggunaan AI yang sah dengan manipulasi yang dapat menyesatkan pemilih. Kampanye politik menggunakan avatar, gambar sintetis, chatbot, hingga video yang menyerupai tokoh nyata. Pada saat yang sama, regulator harus bergerak cepat karena teknologi generatif berkembang lebih cepat daripada proses pengawasan. Dalam 11 hari pertama masa kampanye saja, TSE menerima 19 perkara yang menyinggung penggunaan AI. Situasi semakin rumit karena sebagian besar warga Brasil sudah berinteraksi dengan teknologi tersebut. TSE akhirnya menetapkan kriteria baru mengenai deepfake pada 1 September, hanya beberapa minggu sebelum jutaan warga Brasil memilih presiden, gubernur, anggota parlemen, dan pejabat lainnya.
AI dalam Pemilu Brasil 2026 Membanjiri Media Sosial
Brasil menghadapi pemilu besar pada 4 Oktober 2026. Presiden Luiz Inácio Lula da Silva berusaha mempertahankan jabatannya dalam kontestasi yang berlangsung di tengah polarisasi politik tinggi. Namun, pemilu kali ini memiliki tantangan yang berbeda dibanding pemilu sebelumnya: kecerdasan buatan generatif kini dapat menghasilkan video, suara, foto, dan percakapan politik dalam hitungan detik.
Reuters melaporkan konten buatan AI sudah memenuhi lini masa pemilih Brasil. Kampanye dan pendukung kandidat menggunakan teknologi tersebut untuk membuat materi politik yang semakin sulit masyarakat bedakan dari rekaman asli. Beberapa konten bersifat satir atau jelas merupakan hasil manipulasi. Konten lain tampil jauh lebih realistis sehingga berpotensi membuat pengguna percaya bahwa seorang tokoh benar-benar mengatakan atau melakukan sesuatu.
TSE sebenarnya tidak menunggu sampai masa kampanye dimulai. Pada Maret 2026, pengadilan tersebut sudah memperbarui aturan propaganda pemilu dan mengatur penggunaan AI. TSE mewajibkan pihak yang menggunakan materi sintetis mengikuti ketentuan pelabelan. Pengadilan juga melarang deepfake tertentu dalam propaganda politik.
Namun, teknologi AI berkembang dengan cepat. Model generatif terbaru dapat menciptakan wajah, suara, dan gerakan yang semakin realistis. Alat tersebut juga semakin mudah masyarakat akses. Seseorang tidak lagi membutuhkan tim produksi besar untuk menciptakan video politik palsu yang terlihat meyakinkan.
Kondisi itu membuat regulator menghadapi masalah skala. TSE dapat membuat aturan, tetapi jutaan pengguna dapat menghasilkan dan menyebarkan konten melalui berbagai platform dalam waktu sangat singkat.
TSE Terima 19 Perkara AI Hanya dalam 11 Hari Kampanye
Lonjakan penggunaan AI mulai terlihat sejak awal masa kampanye. Reuters melaporkan TSE menerima 19 perkara terkait AI dalam 11 hari pertama kampanye. Jumlah tersebut menunjukkan betapa cepat teknologi generatif masuk ke dalam persaingan politik Brasil.
Perkara tersebut tidak semuanya memiliki bentuk yang sama. Sebagian berkaitan dengan penggunaan avatar dan citra sintetis. Kasus lain menyentuh persoalan manipulasi visual, penyampaian informasi palsu, serta penggunaan figur politik melalui teknologi AI.
TSE harus menentukan apakah sebuah konten termasuk kreativitas kampanye yang masih sah atau manipulasi yang melanggar aturan. Perbedaan itu tidak selalu mudah terlihat.
Sebuah gambar kartun AI mungkin tidak membuat orang percaya bahwa peristiwa tersebut benar-benar terjadi. Sebaliknya, video dengan wajah, suara, pencahayaan, dan gerakan realistis dapat membuat penonton menganggap rekaman tersebut autentik. Perbedaan tingkat realisme menjadi salah satu faktor yang kini TSE pertimbangkan.
Tekanan semakin besar karena kampanye politik memiliki insentif untuk menghasilkan materi sebanyak mungkin. Konten yang menarik perhatian dapat menyebar ke jutaan pengguna dalam beberapa jam. Ketika regulator akhirnya memeriksa sebuah unggahan, salinannya mungkin sudah muncul di berbagai akun dan platform.
Karena itu, masalah AI tidak hanya berkaitan dengan kemampuan membuat konten palsu. Kecepatan distribusi menjadi tantangan yang sama besarnya.
Avatar AI Jair Bolsonaro Picu Perdebatan Besar
Salah satu kasus yang paling menyita perhatian melibatkan mantan Presiden Brasil Jair Bolsonaro. Ia tidak dapat mengikuti pemilu tahun ini, tetapi versi digital dirinya muncul dalam peluncuran kampanye presiden putranya, Senator Flávio Bolsonaro, pada Juli.
Kampanye menampilkan avatar Jair Bolsonaro yang dibuat menggunakan AI. Kemunculan tersebut langsung memunculkan pertanyaan: jika seseorang tidak dapat berkampanye secara langsung, sejauh mana kandidat lain boleh menggunakan versi digital dirinya?
Persoalan itu kemudian sampai ke TSE. Pada 1 September, pengadilan memutuskan dengan suara 4 berbanding 3 untuk tidak menghukum Flávio Bolsonaro terkait penggunaan video AI tersebut dalam konvensi partai. Mayoritas hakim menilai konteks acara tersebut tidak otomatis mengubah dukungan politik menjadi propaganda pemilu awal.
Namun, keputusan tersebut menghasilkan sesuatu yang jauh lebih penting bagi keseluruhan Pemilu 2026. TSE menetapkan kriteria untuk menentukan sebuah konten sebagai deepfake.
Menurut keputusan itu, hakim harus melihat isi, bahasa, audiens, serta keadaan ketika seseorang membuat dan menyebarkan konten. TSE menyatakan deepfake harus melibatkan konten sintetis yang AI atau teknologi sejenis hasilkan atau manipulasi dengan tingkat realisme tertentu. Konten tersebut juga harus menciptakan, meniru, atau mengubah gambar, suara, maupun ekspresi seseorang.
Kriteria tersebut sekarang menjadi panduan bagi hakim pemilu ketika menangani perkara serupa.
Deepfake Menjadi Ancaman yang Paling Dikhawatirkan
TSE memberikan perhatian khusus terhadap deepfake karena teknologi tersebut dapat mengaburkan batas antara rekaman nyata dan rekayasa.
Bayangkan sebuah video memperlihatkan kandidat presiden mengatakan sesuatu yang kontroversial beberapa hari sebelum pemilu. Jika video terlihat dan terdengar autentik, jutaan orang dapat mempercayainya sebelum pemeriksa fakta atau pihak berwenang membuktikan bahwa AI membuat rekaman tersebut.
Dampaknya dapat menjadi lebih besar ketika konten muncul mendekati hari pemungutan suara. Waktu untuk melakukan klarifikasi semakin sedikit, sementara algoritma media sosial dapat mempercepat distribusinya.
Karena alasan itu, aturan TSE melarang penggunaan deepfake dalam propaganda pemilu ketika konten memenuhi kriteria yang sudah pengadilan tetapkan. TSE juga mengatur materi sintetis lain dan meminta pembuatnya memberi informasi yang jelas mengenai penggunaan AI.
Brasil bahkan membatasi publikasi konten sintetis tertentu menjelang hari pemungutan suara. Regulator ingin mencegah kampanye manipulatif pada periode ketika pemilih memiliki waktu sangat sedikit untuk memverifikasi informasi.
TSE juga dapat menjatuhkan konsekuensi berat ketika penggunaan deepfake memenuhi unsur pelanggaran aturan pemilu. Dalam kerangka hukum Brasil, penyalahgunaan media komunikasi dan kekuasaan politik dapat memengaruhi status pencalonan atau mandat seseorang, tergantung fakta dan putusan pengadilan dalam setiap kasus.
Chatbot AI Bisa Ikut Memengaruhi Pilihan Politik
Ancaman terhadap AI dalam Pemilu Brasil 2026 tidak berhenti pada foto dan video. Chatbot juga membuat regulator khawatir.
Reuters melaporkan sekitar 75 persen warga Brasil berinteraksi secara rutin dengan AI, sedangkan hampir 63 persen menyatakan terbuka untuk berkonsultasi dengan AI mengenai kandidat politik. Angka tersebut menunjukkan chatbot dapat memperoleh peran baru sebagai sumber informasi politik bagi pemilih.
Masalah muncul ketika sistem AI memberikan rekomendasi kandidat. TSE melarang sistem kecerdasan buatan membuat rekomendasi atau peringkat kandidat berdasarkan permintaan pengguna selama konteks pemilu.
Namun, penelitian yang Reuters kutip menemukan sejumlah chatbot populer masih dapat menghasilkan jawaban yang bertentangan dengan pembatasan tersebut. Ketika pengguna meminta model memilih atau memberi peringkat kandidat, beberapa sistem tetap memberikan respons politik.
Situasi ini berbeda dengan deepfake. Dalam kasus video palsu, regulator dapat mencari materi tertentu dan meminta platform menghapusnya. Chatbot menghasilkan jawaban secara individual berdasarkan pertanyaan pengguna. Dua orang bahkan dapat memperoleh respons berbeda dari model yang sama.
Regulator kemudian menghadapi pertanyaan baru. Siapa yang bertanggung jawab ketika chatbot memberikan rekomendasi politik? Bagaimana pemerintah mengaudit jutaan percakapan privat? Dan bagaimana platform dapat mencegah model memberikan jawaban tertentu tanpa menghilangkan akses terhadap informasi politik yang sah?
Pertanyaan tersebut belum memiliki jawaban sederhana.
Algoritma Media Sosial Juga Masuk Pengawasan
Brasil tidak hanya mengawasi konten AI. TSE juga menargetkan cara platform mendistribusikan propaganda politik.
Aturan Pemilu 2026 melarang platform secara organik merekomendasikan profil dan unggahan kandidat, partai, serta koalisi melalui sistem rekomendasi tertentu. Tujuannya mencegah algoritma memberikan keuntungan yang tidak seimbang kepada kandidat tertentu.
Namun, penerapannya menghadapi hambatan besar. Algoritma platform tidak sepenuhnya terbuka bagi regulator. TSE dapat meminta perusahaan mematuhi aturan, tetapi pengawas sulit melihat seluruh mekanisme yang menentukan mengapa satu konten memperoleh jutaan tayangan sementara unggahan lain hampir tidak muncul.
AI memperumit persoalan tersebut. Kampanye sekarang dapat menggunakan teknologi generatif untuk membuat banyak variasi materi dengan cepat. Algoritma kemudian menguji respons pengguna secara otomatis dan dapat mendorong materi yang menghasilkan interaksi tinggi.
Konten provokatif sering memperoleh perhatian lebih besar karena memicu komentar, kemarahan, atau perdebatan. Kondisi itu dapat memberikan keuntungan tidak langsung kepada materi yang paling emosional, termasuk konten manipulatif.
Brasil berusaha mengatasi persoalan tersebut melalui kombinasi aturan terhadap kandidat dan kewajiban bagi platform. Namun, regulator tetap menghadapi keterbatasan teknis ketika berhadapan dengan sistem rekomendasi berskala global.
TSE dan Pemerintah Brasil Perkuat Pengawasan AI
TSE juga bekerja sama dengan Advocacia-Geral da União atau AGU untuk memperkuat pengawasan. Kedua lembaga menandatangani perjanjian kerja sama teknis pada 3 Agustus 2026 untuk membantu mengatur dan mengawasi penggunaan kecerdasan buatan selama kampanye.
Kerja sama tersebut bertujuan melindungi integritas proses demokrasi sekaligus meningkatkan koordinasi ketika muncul konten yang berpotensi melanggar aturan.
TSE memiliki pengalaman panjang menghadapi disinformasi digital. Pengadilan tersebut meningkatkan perhatian terhadap informasi palsu sejak Pemilu 2018 dan terus memperbarui kebijakan seiring perubahan teknologi.
Namun, AI generatif menghadirkan skala baru. Pada masa lalu, pembuat propaganda palsu membutuhkan keterampilan penyuntingan gambar atau video. Sekarang pengguna dapat meminta model menghasilkan gambar politik melalui instruksi teks.
Teknologi suara juga memungkinkan seseorang meniru karakter suara tokoh tertentu. Model video generatif semakin mampu menciptakan gerakan wajah dan tubuh yang realistis. Sementara itu, chatbot dapat menghasilkan ribuan variasi pesan politik secara otomatis.
Regulator kemudian harus mengejar teknologi yang berubah hampir setiap bulan.
Pemilu 4 Oktober Jadi Ujian Besar Regulasi AI Brasil
Brasil akan menggelar putaran pertama pemilu pada 4 Oktober 2026. Dengan waktu yang semakin pendek, TSE harus memastikan aturan yang sudah mereka buat dapat berjalan ketika kampanye memasuki fase paling intens.
Keputusan 1 September mengenai definisi deepfake memberikan dasar yang lebih jelas bagi hakim. Mereka sekarang memiliki sejumlah faktor untuk menentukan apakah konten AI melanggar larangan.
Namun, aturan hukum hanya menjadi satu bagian dari tantangan. Pemerintah tetap membutuhkan kerja sama platform, kampanye, pemeriksa fakta, media, dan masyarakat untuk membatasi dampak informasi manipulatif.
Pemilih juga menghadapi tanggung jawab yang semakin besar. Video yang terlihat meyakinkan belum tentu merekam peristiwa nyata. Suara yang terdengar seperti seorang kandidat belum tentu berasal dari orang tersebut. Bahkan jawaban chatbot tidak selalu memberikan informasi yang netral atau akurat.
Kondisi tersebut membuat AI dalam Pemilu Brasil 2026 menjadi salah satu eksperimen demokrasi digital terbesar tahun ini. Brasil memiliki lebih dari 150 juta pemilih dan tingkat penggunaan media sosial yang tinggi. Pada saat yang sama, AI generatif kini tersedia luas bagi masyarakat dan kampanye politik.
TSE sudah melarang deepfake, mengatur pelabelan AI, membatasi rekomendasi algoritma, dan menetapkan kriteria baru untuk membantu hakim menilai konten sintetis. Meski begitu, jumlah perkara yang muncul hanya dalam beberapa hari pertama kampanye menunjukkan betapa sulitnya mengendalikan teknologi tersebut.
Pemilu Oktober akhirnya tidak hanya akan menentukan siapa yang memimpin Brasil. Pemilu tersebut juga akan menguji apakah aturan demokrasi mampu bergerak cukup cepat menghadapi teknologi yang dapat menciptakan realitas palsu dalam hitungan detik.