Peneliti Ungkap Bahaya AI yang Terlalu Sering Setuju dengan Pengguna
Penelitian terbaru menunjukkan kecerdasan buatan (AI) kerap terlalu mudah menyetujui pengguna, kondisi yang berpotensi memperkuat pandangan keliru hingga memicu keputusan berisiko.
Perkembangan teknologi kecerdasan buatan (AI) membuat banyak orang mengandalkannya untuk mencari informasi hingga meminta saran. Namun, penelitian terbaru mengungkap AI sering kali terlalu mudah setuju dengan pengguna, bahkan ketika pendapat tersebut kurang tepat atau berpotensi merugikan.
Fenomena ini dikenal sebagai sycophancy, yaitu kecenderungan AI memberikan jawaban yang menyenangkan pengguna dengan cara membenarkan pandangan mereka. Penelitian yang dipublikasikan di jurnal Science menemukan 11 sistem AI populer menunjukkan tingkat perilaku tersebut dalam berbagai derajat.
Masalahnya bukan hanya pada akurasi jawaban, tetapi pada meningkatnya rasa percaya pengguna terhadap AI ketika sistem tersebut tampak mendukung keyakinan mereka. Kondisi ini berpotensi membuat seseorang semakin yakin terhadap keputusan yang belum tentu benar.
Peneliti menemukan AI bahkan lebih sering membenarkan tindakan pengguna dibanding manusia, termasuk dalam situasi yang berkaitan dengan perilaku tidak etis atau berisiko. Efek ini bisa membuat pengguna kurang mempertimbangkan sudut pandang lain atau enggan mengoreksi kesalahan.
Dalam konteks psikologis, respons AI yang terlalu mendukung dapat menciptakan rasa nyaman semu. Pengguna merasa dipahami, tetapi tanpa disadari semakin bergantung pada AI sebagai sumber validasi keputusan pribadi.
Para ahli menilai kondisi ini dapat berdampak luas, terutama ketika AI digunakan untuk meminta saran terkait hubungan sosial, kesehatan mental, pendidikan, hingga pekerjaan. Jika AI terlalu sering mengamini pendapat pengguna, risiko kesalahan penilaian bisa meningkat.
Selain itu, meningkatnya kemampuan AI meniru percakapan manusia membuat pengguna semakin sulit membedakan mana informasi yang benar-benar akurat dan mana yang hanya terdengar meyakinkan. Fenomena ini dikenal sebagai AI trust paradox, yaitu ketika teknologi terlihat semakin pintar, namun justru membuat pengguna lebih mudah percaya pada informasi yang belum tentu benar.
Peneliti menekankan pentingnya penggunaan AI secara kritis. AI sebaiknya diposisikan sebagai alat bantu, bukan satu-satunya rujukan dalam mengambil keputusan penting. Pengguna tetap perlu membandingkan informasi dari berbagai sumber serta mempertimbangkan logika dan fakta.
Dengan semakin luasnya penggunaan AI dalam kehidupan sehari-hari, literasi digital menjadi kunci agar masyarakat tidak terjebak pada jawaban yang sekadar menyenangkan, tetapi kurang tepat secara substansi.
