Generasi.co, Jakarta – Sejarawan dan profesor Harvard Jill Lepore memperingatkan perkembangan kecerdasan buatan (AI) dapat mendorong terbentuknya tatanan politik yang mengikis otonomi manusia dan menggantikan fungsi negara dengan perusahaan teknologi.
Lepore menyebut kondisi tersebut sebagai “artificial state” atau negara artifisial. Menurut dia, dalam tatanan itu, keputusan pemerintahan semakin banyak dibuat oleh mesin, sementara mesin tersebut dimiliki perusahaan.
“Pemerintahan dilakukan bukan berdasarkan persetujuan rakyat, melainkan oleh mesin yang membuat keputusan,” kata Lepore dalam episode terbaru podcast The New York Times, “Hard Fork”.
Lepore menegaskan dunia belum sepenuhnya memasuki kondisi tersebut. Namun, menurut dia, tatanan itu sedang dibangun dan diwujudkan di sekitar masyarakat. Gagasan tersebut juga menjadi fantasi sebagian elite berpengaruh yang meyakini kekuasaan mereka seharusnya melampaui pemerintah dan pemilih.
Ia menilai retorika yang berkembang saat ini berkaitan dengan memudarnya demokrasi liberal modern dan demokrasi konstitusional.
“Retorika yang muncul dari momen sejarah tertentu ini benar-benar tentang lenyapnya demokrasi liberal modern, demokrasi konstitusional,” ujar Lepore.
Menurut Lepore, elite yang mendorong gagasan tersebut tidak tertarik pada keinginan masyarakat. Ia mengatakan masyarakat justru tidak menginginkan AI dan pusat data.
“Karena sebenarnya, apa yang diinginkan masyarakat adalah tidak memiliki AI dan tidak memiliki pusat data. Itulah krisisnya,” katanya.
Lepore mengembangkan gagasan tersebut dalam buku yang akan datang, “The Rise and Fall of the Artificial State”. Ia mengaku mulai memikirkannya dari pertanyaan sederhana mengenai siapa yang memutuskan bahwa manusia harus menjalani kehidupan dengan berinteraksi dengan AI untuk memperoleh jawaban.
Menurut dia, penggunaan AI dalam kehidupan sehari-hari merupakan bagian dari perubahan yang lebih luas. Berbagai fungsi negara semakin banyak digantikan perusahaan yang memiliki dan mengendalikan infrastruktur komunikasi digital.
Cara masyarakat memperoleh berita, informasi mengenai pemilu, hingga menentukan pilihan politik juga semakin dimediasi kelompok-kelompok berkuasa melalui teknologi. Jika sebelumnya televisi dan radio menjadi medium utama, kini media sosial menjadi medium yang semakin dominan.
Lepore juga menilai infrastruktur komunikasi digital memiliki efek mengisolasi masyarakat. Dalam tulisannya di The New Yorker pada 2024, yang kemudian menjadi dasar gagasan bukunya, ia menggambarkan negara artifisial sebagai “peternakan massal kehidupan publik, proses memilah dan mensegmentasi, mengisolasi dan mengasingkan, serta menghancurkan komunitas manusia”.
AI, menurut Lepore, bukan satu-satunya penggerak negara artifisial, tetapi mempercepat proses tersebut. Masyarakat mulai bertanya kepada ChatGPT mengenai siapa yang harus dipilih dalam pemilu, alih-alih berbicara dengan tetangga, pejabat lokal, atau para ahli.
Pesan-pesan politik yang diterima masyarakat juga kemungkinan sebagian ditulis menggunakan AI. Pada saat yang sama, keputusan di berbagai tingkatan dibuat dengan bantuan mesin yang mampu berpikir. AI turut memperkuat pengawasan dengan memproses sejumlah besar data yang dikumpulkan mengenai masyarakat.
Lepore juga mengkritik narasi dari Silicon Valley yang menggambarkan perkembangan AI sebagai sesuatu yang tidak dapat dihindari. Ia menyebut anggapan tersebut sebagai “premis palsu”.
Menurut dia, narasi itu dibangun di atas sejumlah anggapan lain yang meragukan. Salah satunya adalah anggapan bahwa regulasi menghambat inovasi sehingga pemerintah seharusnya mengurangi pembatasan terhadap pengembangan AI.
Anggapan lainnya adalah teknologi selalu mendorong demokrasi. Pandangan tersebut, kata Lepore, membuat berbagai ancaman nyata AI terhadap demokrasi saat ini seolah-olah akan terselesaikan dengan sendirinya.
Lepore mengatakan kedua anggapan itu tidak benar. Ia merujuk pada janji serupa yang pernah disampaikan ketika teknologi sebelumnya berkembang.
“Jadi sekarang, orang-orang AI kembali dengan argumen yang sama seperti yang pernah dibuat tentang internet—komputer pribadi, internet, dan media sosial,” ujar Lepore.
