Semakin Canggih, Semakin Tak Dipercaya: Fenomena Turunnya Kepercayaan Peneliti terhadap AI

Kecerdasan buatan kini berada di puncak perhatian dunia. Namun di balik kemajuan luar biasa yang ditunjukkan berbagai model AI generatif, justru muncul paradoks menarik: semakin canggih AI, semakin rendah tingkat kepercayaan para peneliti terhadapnya.

Fenomena ini terungkap dalam survei global yang dilakukan oleh Nature pada pertengahan 2025 terhadap lebih dari 2.000 peneliti lintas disiplin ilmu. Hasilnya menunjukkan bahwa lebih dari 62% ilmuwan mengaku tidak sepenuhnya percaya pada hasil yang dihasilkan oleh sistem AI, terutama model generatif seperti GPT, Claude, dan Gemini. Hanya 12% responden yang menyatakan AI dapat digunakan tanpa pengawasan manusia.

Ketidakpercayaan itu muncul bukan karena AI tidak bermanfaat, melainkan karena kurangnya transparansi dalam proses pengambilan keputusan dan potensi bias yang masih tinggi. “AI dapat menghasilkan jawaban yang tampak meyakinkan, tetapi sering kali kita tidak tahu bagaimana sistem tersebut sampai pada kesimpulan itu,” ujar Dr. Timnit Gebru, pendiri Distributed AI Research Institute (DAIR), seperti dikutip dari MIT Technology Review.

Banyak peneliti kini menggunakan AI hanya sebagai alat bantu analisis, bukan pengambil keputusan. Dalam penelitian medis misalnya, sistem AI memang mampu mendeteksi pola gambar radiologi dengan cepat, tetapi diagnosis akhir tetap harus dikonfirmasi oleh dokter manusia. Hal yang sama juga terjadi di bidang akademik: AI bisa membantu menyusun literatur atau memproses data besar, namun hasilnya masih harus ditinjau ulang secara manual untuk menghindari kesalahan atau plagiarisme algoritmik.

Dari sisi sosial, muncul kekhawatiran bahwa masyarakat umum terlalu cepat mempercayai hasil kerja AI tanpa pemahaman memadai tentang keterbatasannya. “Ada jurang besar antara persepsi publik dan pandangan ilmuwan. Publik menganggap AI semakin pintar, sementara peneliti melihat banyak hal yang belum terkendali,” kata Dr. Melanie Mitchell, peneliti dari Santa Fe Institute.

AI yang semakin kompleks juga menimbulkan masalah baru: “black box problem” — yakni kesulitan menjelaskan alasan di balik keputusan sistem. Ketika algoritma bekerja dengan miliaran parameter yang saling terhubung, bahkan para insinyur pembuatnya pun tak selalu memahami sepenuhnya bagaimana model itu berpikir.

Meski demikian, para peneliti tidak menolak AI sepenuhnya. Sebaliknya, mereka menuntut pengembangan yang lebih bertanggung jawab dan transparan. Riset dari Stanford Institute for Human-Centered Artificial Intelligence (HAI) menegaskan bahwa kepercayaan terhadap AI hanya bisa tumbuh bila teknologi ini memenuhi tiga syarat utama: akuntabilitas, keterbukaan, dan etika penggunaan.

“AI bukan musuh ilmu pengetahuan, tapi kita tidak boleh memperlakukannya seperti orakel yang selalu benar,” ujar Dr. Fei-Fei Li, Direktur Stanford HAI. “Sains membutuhkan bukti, bukan keyakinan terhadap mesin.”

Tren ini menunjukkan perubahan besar dalam hubungan manusia dan teknologi. Di satu sisi, AI menjanjikan efisiensi dan inovasi luar biasa; di sisi lain, ia menantang batas kepercayaan manusia terhadap apa yang disebut “kecerdasan.”