Pengarahan AI: Kekhawatiran mengenai misinformasi semakin meningkat menjelang pemilu AS

Tentu saja, AI hanyalah satu bagian dari keseluruhan misinformasi politik. Awal pekan ini, Digiday menemukan banyak contoh pengiklan politik di Meta yang menyebarkan misinformasi terkait pemilu. Menurut Perpustakaan Meta Ads, beberapa halaman Facebook telah menghabiskan puluhan ribu dolar dengan konten tentang teori konspirasi sayap kanan, dengan satu halaman telah menghabiskan lebih dari $1 juta untuk iklan politik dalam sebulan terakhir tanpa afiliasi kampanye resmi.

Pada pertengahan bulan Oktober, sebuah survei yang dilakukan oleh organisasi nirlaba American for Responsible Innovation (ARI) menemukan bahwa 55% dari 2.000 pemilih yang disurvei mengatakan bahwa mereka telah terpapar misinformasi yang dihasilkan oleh AI pada siklus pemilu ini. Ketika ditanya mengenai dampaknya, 35% responden mengatakan AI mempunyai dampak negatif, 17% menjawab tidak memberikan dampak besar, dan 9% menjawab positif.

Untuk mengatasi kekhawatiran ini, lebih dari selusin negara bagian telah mengeluarkan undang-undang yang mewajibkan kampanye politik untuk mengungkapkan kapan mereka menggunakan AI dalam periklanan. Namun, dampak dari undang-undang baru ini masih belum jelas. Sebuah studi baru-baru ini yang dilakukan NYU juga mengeksplorasi bagaimana pengungkapan AI pada iklan politik memengaruhi persepsi pemilih terhadap kandidat.

AI atau bukan, iklan politik dengan informasi yang salah semakin bertambah. Investigasi baru minggu ini oleh Propublica melaporkan menemukan 160.000 iklan isu politik dan sosial yang menipu di lebih dari 340 halaman Facebook. Analisis terbaru lainnya yang diterbitkan oleh Syracuse University, diperkirakan $5 juta dihabiskan untuk iklan yang berpotensi penipuan — atau sekitar 4% dari keseluruhan belanja iklan oleh organisasi luar. Meskipun banyak pengeluaran yang dilakukan, para ahli berpendapat bahwa kekhawatiran mengenai misinformasi politik mungkin berlebihan.

AI telah menyebabkan “krisis kepercayaan” pada institusi dan informasi, kata CEO ARI Brad Carson kepada Digiday, seraya menambahkan bahwa disinformasi telah menyebabkan “polusi budaya.” Carson, mantan anggota Kongres yang kini juga menjabat presiden The University of Tulsa, juga mencatat bahwa pagar pembatas yang masuk akal di sekitar area seperti pengungkapan AI dapat membantu. Namun hal tersebut mungkin sulit untuk dilewati.

“Kami memuji negara bagian dan pemerintah federal yang mencoba mendorong undang-undang tentang pemberian label yang jelas pada gambar sintetis atau dalam beberapa kasus bahkan melarang gambar sintetis,” kata Carson. “Tetapi tidak ada solusi yang lebih baik daripada literasi. Para pemilih harus memahami bagaimana AI meresap ke dalam kampanye pemilu dan meresap ke dalam budaya yang lebih luas.”

Meskipun gambar dan video AI tidak dapat membujuk seseorang untuk mengubah pilihannya, beberapa orang mengatakan bahwa dampak yang lebih mungkin terjadi adalah bagaimana misinformasi AI dapat memengaruhi jumlah pemilih. Hal ini juga dirinci dalam laporan para peneliti di University of Texas-Austin, yang menyebutkan potensi risiko pesan yang sangat bertarget dan robocall yang berisi informasi palsu tentang kandidat atau lokasi pemungutan suara.

Mendeteksi dan memberi label pada konten AI di tingkat platform dapat membantu mencegah distribusi konten berbahaya, kata Lucas Hansen, pendiri CivAI, sebuah organisasi nirlaba yang berfokus pada pendidikan AI. Beberapa perusahaan seperti Meta dan Google sudah mulai memberi label pada konten AI. Hansen mengatakan deteksi kemungkinan akan menjadi lebih sulit dari waktu ke waktu, namun juga mungkin menjadi lebih mahal – secara finansial dan politik. Kekhawatiran lain saat ini adalah penggunaan konten AI berkualitas rendah untuk “mengamuk umpan” orang-orang tentang politik.

“Membuat masyarakat berubah pikiran cukup sulit dalam kondisi seperti ini, namun membuat masyarakat tidak memilih adalah hal yang jauh lebih masuk akal,” kata Hansen. “Salah satu dampak besar dari konten yang dibuat oleh AI, setidaknya saat ini, adalah membuat orang menjadi sangat marah. Saya pikir hal itu sangat merugikan masyarakat.”

Anjuran dan Produk — berita dan pengumuman AI

• AI kembali mendukung kuartal ini ketika Google, Snap, Reddit, Meta, dan lainnya melaporkan hasil Q3.
• Sebuah startup baru bernama Trainspot meluncurkan pasar data AI untuk membantu pembuat konten memonetisasi kekayaan intelektual mereka untuk pelatihan AI sekaligus memberi pengembang dan bisnis cara untuk mendapatkan data pelatihan berlisensi.
• OpenAI meluncurkan fitur pencarian web baru di ChatGPT yang menyediakan tautan relevan ke situs web sumber.
• Saingan ChatGPT, Perplexity, meluncurkan toko merchandise baru dengan kemeja, stiker, dan bahkan topi baseball “tahu semuanya”.
• Anthropic mengumumkan aplikasi desktop baru untuk chatbot Claude-nya.
• Apple merilis platform Apple Intelligence barunya dengan berbagai fitur AI generatif di seluruh alat suara, teks, dan gambar. (Perusahaan juga meluncurkan iklan baru untuk platform AI-nya.)
• Pendiri LinkedIn Reid Hoffman menciptakan kelas AI baru untuk para eksekutif bekerja sama dengan Wharton School.
• Google Deepmind memperkenalkan cara baru untuk membuat konten audio menggunakan AI generatif.
• Agensi influencer AI BEN telah mengakuisisi perusahaan teknologi Jerman Cataneo untuk memperluas jangkauan media.