Undang-undang terbaru California bisa membuat pengguna media sosial yang memposting, atau memposting ulang, deepfake AI yang menipu pemilih tentang pemilihan yang akan datang dalam masalah hukum. Gubernur Gavin Newsom menyarankan bahwa AB 2839, yang mulai berlaku segera setelah ia menandatanganinya pada hari Selasa, bisa digunakan untuk mengendalikan retweet Elon Musk, di antara orang lain yang menyebarkan konten yang menipu.
“Saya baru saja menandatangani undang-undang untuk membuat ini ilegal di negara bagian California,” kata Newsom dalam tweet, mengacu pada deepfake AI Musk yang diposting ulang awal tahun ini yang membuat tampaknya Kamala Harris menyebut dirinya sebagai calon yang tidak kompeten dan penerima keberagaman (padahal tidak).
“Anda tidak boleh lagi dengan sengaja mendistribusikan iklan atau komunikasi pemilihan lainnya yang mengandung konten yang menipu secara mendasar — termasuk deepfakes,” kata Newsom kemudian dalam tweet tersebut.
Undang-undang baru California ini menargetkan para distributor deepfake AI, khususnya jika postingan tersebut menyerupai seorang kandidat dalam surat suara California, dan si penulis tahu bahwa itu palsu dan akan menimbulkan kebingungan. AB 2839 unik karena tidak menargetkan pembuat deepfake AI, atau platform tempat mereka muncul, tetapi mereka yang dengan jahat menyebarkannya. Semua orang yang melihat deepfake AI di media sosial sekarang bisa mengajukan permintaan bantuan injungtif, artinya seorang hakim bisa memerintahkan penulisnya untuk menghapusnya, atau mengeluarkan kerugian materi terhadap orang yang mempostingnya.
Ini adalah salah satu undang-undang tertegas di Amerika Serikat terhadap deepfake AI terkait pemilihan menuju pemilihan presiden 2024.
Seorang sponsor yang membantu menyusun AB 2839, California Initiative for Technology and Democracy (CITED), memberi tahu TechCrunch bahwa undang-undang ini dapat memengaruhi siapa pun pengguna media sosial — bukan hanya Musk — yang memposting atau memposting ulang deepfake AI terkait pemilihan dengan niat jahat. “Niat jahat” berarti penulisnya tahu bahwa itu palsu dan akan membingungkan pemilih.
“[AB 2839] menargetkan pencipta atau distributor konten, jika kontennya masuk dalam ketentuan undang-undang,” kata direktur kebijakan CITED, Leora Gershenzon, dalam wawancara dengan TechCrunch. “Ini adalah konten yang menipu dengan materi yang didistribusikan dengan mengetahui bahwa itu palsu, dengan tidak peduli terhadap kebenaran, dan kemungkinan akan memengaruhi pemilihan.”
Ketika ditanya apakah Musk bisa menghadapi tindakan hukum karena memposting ulang deepfake, Newsom tidak menutup kemungkinan.
“Saya pikir Pak Musk melewatkan inti cerita,” kata Gubernur Newsom dalam sebuah konferensi pers Kamis. “Parodi masih hidup dan baik-baik saja di California, tetapi deepfake dan manipulasi pemilihan — itu merugikan demokrasi.”
Secara khusus, undang-undang baru ini melarang deepfake AI terkait pemilihan dari TV, radio, telepon, pesan teks, atau komunikasi “disebarkan melalui internet.” Undang-undang ini tidak eksklusif untuk iklan kampanye politik, yang menjadi fokus undang-undang lain, melainkan juga postingan dari orang biasa. AB 2839 menciptakan jendela waktu —120 hari sebelum pemilihan California dan 60 hari setelah — di mana ada aturan yang lebih ketat tentang apa yang bisa, dan tidak bisa, diposting tentang kandidat politik di media sosial.
“Tujuan sebenarnya sebenarnya bukan kerugian atau bantuan injungtif,” kata Gershenzon. “Tujuannya adalah agar orang tidak melakukannya dari awal. Sebenarnya itu akan menjadi hasil terbaik… agar deepfake ini tidak dengan curang mempengaruhi pemilihan kita.”
Undang-undang ini berlaku untuk kandidat pemilihan negara bagian dan lokal di California, serta kandidat federal yang akan muncul di surat suara California, seperti Kamala Harris dan Donald Trump. Jika ada disclaimer yang jelas pada deepfake AI, menyatakan bahwa telah mengalami perubahan digital, maka AB 2839 tidak berlaku.
Musk sudah mencoba menguji kemauan untuk menegakkan undang-undang baru California. Musk memposting ulang deepfake yang menyerupai Kamala Harris yang diacu oleh Newsom dalam tweetnya pada hari Selasa, mengumpulkan lebih dari 31 juta tayangan di X. Musk juga memposting ulang deepfake AI yang menyerupai Gubernur Newsom pada hari Rabu, yang menerima lebih dari 7 juta tayangan.
Musk dan X menghadapi masalah hukum lain terkait moderasi. Misalnya, seorang hakim Mahkamah Agung Brasil menghukum denda Korporasi X pada hari Kamis karena menghindari larangan platform di negara tersebut. Hakim sebelumnya mengatakan bahwa kegagalan X untuk melawan berita palsu dan ujaran kebencian merugikan demokrasi Brasil.