Ancaman Baru AI, Bisa Kuasai Negara dan Manusia?

Kecerdasan buatan atau artificial intelligence (AI) berkembang semakin cepat dan mulai masuk ke berbagai bidang kehidupan, mulai dari pendidikan, pekerjaan, layanan publik, media hingga politik. Di balik berbagai manfaat tersebut, muncul kekhawatiran bahwa AI pada akhirnya bukan hanya menjadi alat yang membantu manusia, tetapi justru dapat memperbesar kekuasaan perusahaan teknologi dan mengurangi kendali masyarakat terhadap keputusan yang memengaruhi kehidupan mereka.

Peringatan mengenai kemungkinan tersebut disampaikan sejarawan sekaligus profesor Harvard, Jill Lepore, dalam podcast Hard Fork milik The New York Times. Ia membahas gagasan mengenai “artificial state” atau negara buatan, yakni kondisi ketika semakin banyak fungsi yang sebelumnya dijalankan negara perlahan digantikan oleh sistem teknologi dan korporasi yang mengendalikan infrastruktur digital.

AI Bisa Mengubah Cara Negara Mengambil Keputusan

Menurut Lepore, manusia memang belum sepenuhnya hidup dalam sebuah “negara buatan”. Namun, menurutnya, proses menuju kondisi tersebut mulai dibangun melalui semakin besarnya peran perusahaan teknologi dalam mengendalikan infrastruktur komunikasi, informasi, dan data.

Dalam skenario tersebut, keputusan yang menyangkut masyarakat tidak lagi sepenuhnya ditentukan melalui mekanisme politik dan institusi pemerintahan. Sebaliknya, semakin banyak keputusan dapat dibantu atau bahkan diarahkan oleh sistem mesin yang dimiliki dan dikendalikan oleh korporasi.

Persoalannya bukan semata-mata apakah AI suatu hari akan menjadi “penguasa” seperti gambaran dalam film fiksi ilmiah. Kekhawatiran yang lebih realistis justru terletak pada siapa yang mengendalikan AI, data apa yang digunakan, serta seberapa besar kewenangan manusia diberikan kepada sistem tersebut.

Ketika pemerintah, perusahaan, maupun masyarakat semakin bergantung pada AI untuk mengambil keputusan, pihak yang menguasai teknologi dan infrastrukturnya dapat memiliki pengaruh yang sangat besar.

Kondisi tersebut menjadi semakin penting ketika AI digunakan untuk sektor strategis seperti keamanan, keuangan, layanan publik, informasi politik, hingga pengambilan keputusan pemerintahan.

AI juga dapat memproses data dalam jumlah sangat besar dalam waktu singkat. Kemampuan tersebut memang dapat meningkatkan efisiensi, tetapi sekaligus membuka peluang pengawasan masyarakat dalam skala yang sebelumnya sulit dilakukan.

Lepore menilai AI tidak sendirian menciptakan perubahan tersebut, tetapi dapat mempercepat proses ketika fungsi komunikasi dan informasi publik semakin banyak dimediasi oleh platform digital yang dikuasai perusahaan teknologi.

Ketika Manusia Mulai Menyerahkan Keputusan kepada AI

Perubahan yang lebih dekat dengan kehidupan sehari-hari sebenarnya sudah mulai terlihat. Masyarakat kini dapat bertanya kepada chatbot AI mengenai berbagai hal, termasuk mencari informasi politik, memahami isu publik, bahkan meminta saran mengenai pilihan politik.

Menurut Lepore, kondisi tersebut dapat mengubah cara masyarakat berinteraksi dengan sumber informasi. Jika sebelumnya seseorang berdiskusi dengan keluarga, tetangga, tokoh masyarakat, pejabat atau pakar, kini sebagian proses tersebut dapat digantikan oleh percakapan dengan mesin.

Persoalannya, AI tidak selalu memberikan informasi yang benar atau bebas dari bias. Sistem AI dibangun menggunakan data dan algoritma tertentu sehingga hasil yang diberikan sangat bergantung pada bagaimana sistem tersebut dikembangkan dan sumber informasi yang digunakannya.

Dalam konteks politik, ketergantungan yang terlalu besar terhadap AI juga dapat menjadi masalah serius. Bayangkan jika masyarakat menentukan pilihan politik berdasarkan rekomendasi sistem yang tidak sepenuhnya transparan atau mendapatkan informasi politik yang telah dipengaruhi algoritma.

Lebih jauh lagi, pesan politik yang beredar di internet kini dapat dibuat atau diperkuat menggunakan AI. Teknologi generatif memungkinkan produksi teks, gambar, audio, maupun video dalam jumlah besar sehingga batas antara informasi asli dan konten manipulatif semakin sulit dikenali.

Fenomena tersebut berpotensi memperbesar ancaman disinformasi. Ketika informasi palsu dapat diproduksi dalam jumlah besar dan disebarkan secara otomatis, masyarakat akan semakin sulit menentukan mana informasi yang dapat dipercaya.

Ancaman semacam ini bukan sekadar persoalan teknologi. Jika terjadi dalam skala besar, disinformasi dapat memengaruhi kepercayaan publik terhadap pemerintah, institusi demokrasi, media, bahkan sesama warga.

Bukan Berarti AI Akan Mengambil Alih Pemerintahan Besok

Meski demikian, peringatan mengenai “AI menguasai negara” perlu dipahami secara proporsional. Tidak ada bukti bahwa saat ini AI telah mengambil alih pemerintahan negara atau menggantikan kedaulatan manusia.

Pernyataan Lepore lebih merupakan peringatan mengenai arah perkembangan teknologi dan konsentrasi kekuasaan apabila masyarakat serta pemerintah tidak mampu mengendalikan perkembangan tersebut. Ia bahkan menekankan bahwa manusia belum sepenuhnya hidup dalam kondisi “artificial state”, tetapi menurutnya berbagai elemennya sedang terbentuk.

Artinya, persoalan utama bukan apakah AI akan tiba-tiba menjadi penguasa, melainkan apakah manusia secara perlahan menyerahkan terlalu banyak kewenangan kepada sistem otomatis dan perusahaan yang mengendalikan teknologi tersebut.

Ketergantungan yang berlebihan dapat membuat manusia kehilangan kemampuan untuk mengambil keputusan secara mandiri. Jika sebuah sistem AI menjadi rujukan utama dalam pekerjaan, pendidikan, informasi, keuangan hingga politik, masyarakat berpotensi menjadi terlalu bergantung pada hasil yang diberikan mesin.

Di sisi lain, perusahaan teknologi juga memiliki akses terhadap data dalam jumlah sangat besar. Data tersebut dapat digunakan untuk memahami perilaku, preferensi, kebiasaan, hingga pola aktivitas masyarakat.

Karena itu, data menjadi bagian penting dari perebutan kekuasaan di era AI. Siapa yang memiliki data, infrastruktur komputasi, model AI, dan platform distribusi informasi memiliki kemampuan besar untuk memengaruhi bagaimana masyarakat memperoleh informasi dan membuat keputusan.

Indonesia Perlu Menyiapkan Aturan AI

Perkembangan tersebut menjadi pelajaran penting bagi Indonesia yang juga sedang mendorong pemanfaatan AI dalam berbagai sektor. Pemerintah tidak cukup hanya mengejar kemampuan untuk menggunakan AI, tetapi juga perlu memastikan teknologi tersebut dikembangkan dengan memperhatikan kepentingan publik.

Indonesia perlu memastikan bahwa AI tidak membuat masyarakat hanya menjadi konsumen teknologi yang dikembangkan perusahaan besar. Penguasaan teknologi, pengembangan talenta digital, keamanan data, transparansi algoritma, serta regulasi yang melindungi masyarakat menjadi bagian penting dari strategi nasional.

Hal tersebut semakin relevan karena sebelumnya pemerintah Indonesia juga telah menekankan pentingnya menjadi pihak yang menguasai teknologi AI, bukan sekadar menjadi pengguna.

Regulasi juga perlu menemukan keseimbangan. Aturan yang terlalu longgar dapat membuka ruang penyalahgunaan AI, sementara regulasi yang terlalu ketat berpotensi menghambat inovasi.

Tantangannya adalah memastikan inovasi tetap berjalan tanpa mengorbankan hak masyarakat, keamanan data, demokrasi, dan kendali manusia terhadap keputusan-keputusan penting.

Pada akhirnya, ancaman terbesar AI mungkin bukan ketika mesin tiba-tiba menjadi penguasa dunia. Ancaman yang lebih masuk akal adalah ketika manusia secara perlahan menyerahkan terlalu banyak kewenangan kepada teknologi tanpa memahami siapa yang mengendalikan teknologi tersebut.

AI seharusnya menjadi alat untuk memperkuat kemampuan manusia, bukan menggantikan kedaulatan manusia. Karena itu, semakin canggih teknologi yang digunakan, semakin penting pula memastikan bahwa keputusan strategis tetap berada di bawah kendali manusia, institusi demokratis, dan aturan yang dapat dipertanggungjawabkan.