Siapa yang Bertanggung Jawab Ketika AI Membuat Kesalahan?

Oleh BASMAR | Pengamat Peradaban Digital

Ada satu pertanyaan yang kelihatannya sederhana, tetapi akan semakin rumit dalam beberapa tahun ke depan: kalau AI membuat kesalahan, siapa yang harus bertanggung jawab?

Bayangkan seorang mahasiswa menyerahkan tugas yang berisi informasi keliru karena mengikuti jawaban AI. Atau perusahaan menggunakan AI untuk menyaring pelamar kerja, lalu sistem tersebut secara tidak sengaja mendiskriminasi kelompok tertentu. Bahkan lebih serius: bagaimana jika AI membantu mengambil keputusan dalam layanan kesehatan, keuangan, atau pelayanan publik—dan keputusannya ternyata salah?

Kita sering berkata, “Itu kan cuma kesalahan AI.”

Masalahnya, AI tidak bisa meminta maaf, membayar ganti rugi, atau masuk ruang sidang. Yang ada di belakangnya selalu manusia dan institusi.

AI Semakin Kita pakai, Kesalahan Pun Bisa Makin Berskala Besar

Perkembangan AI di Indonesia bergerak cukup cepat. Survei PwC 2025 menunjukkan 69% pekerja Indonesia telah menggunakan AI untuk pekerjaannya dalam 12 bulan terakhir, sementara 16% menggunakannya setiap hari. Pada pengguna GenAI harian, 96% melaporkan peningkatan produktivitas.

Artinya, AI bukan lagi mainan teknologi.

Ia sudah masuk ke ruang kerja, pendidikan, bisnis, media, bahkan pengambilan keputusan.

Dan di sinilah persoalannya.

Semakin banyak keputusan manusia terbantukan mesin, semakin kabur pula batas antara “kesalahan manusia” dan “kesalahan sistem.”

Dari “Siapa yang Salah?” Menjadi “Siapa yang Mengendalikan?”

Dalam sosiologi, teknologi tidak pernah benar-benar berdiri sendiri. Ia berada dalam jaringan sosial: ada pembuat, pemilik, pengguna, aturan, kepentingan ekonomi, dan masyarakat yang menerima dampaknya.

Kita bisa melihatnya melalui konsep sociotechnical system: kesalahan bukan hanya berasal dari mesin, tetapi bisa muncul dari hubungan antara manusia, teknologi, organisasi, dan aturan.

Karena itu, menyalahkan AI sebenarnya terlalu mudah.

AI menghasilkan jawaban dari data, model, desain, instruksi, dan konteks penggunaan yang dibuat manusia.

IBM bahkan menemukan pada 2026 bahwa dua pertiga CIO dan CTO yang di survei merasa bertanggung jawab atas sistem AI yang tidak sepenuhnya mereka kendalikan. Sebanyak 70% mengatakan tim di organisasi mereka menerapkan teknologi lebih cepat daripada kemampuan IT untuk melacaknya.

Ini yang saya sebut sebagai “responsibility gap” jarak antara siapa yang menikmati manfaat AI dan siapa yang harus bertanggung jawab ketika sesuatu berjalan salah.

AI Bisa Mengubah Struktur Tanggung Jawab

Dalam masyarakat digital, tanggung jawab tidak lagi selalu berjalan lurus.

Dulu:

Manusia → keputusan → konsekuensi.

Sekarang:

Data → algoritma → AI → manusia → organisasi → masyarakat.

Rantai ini jauh lebih panjang.

Indonesia sebenarnya sudah memiliki Surat Edaran Menteri Kominfo Nomor 9 Tahun 2023 tentang Etika Kecerdasan Artifisial. Di dalamnya terdapat prinsip inklusivitas, kemanusiaan, keamanan, transparansi, serta tanggung jawab. Bahkan disebutkan bahwa AI tidak seharusnya menjadi penentu kebijakan atau pengambil keputusan yang menyangkut kemanusiaan.

Pemerintah juga sedang menyiapkan Perpres tentang Etika AI dan Peta Jalan AI Nasional 2026–2029. Pada Juli 2026, pemerintah menyatakan Perpres tersebut akan menjadi langkah awal menuju kemungkinan Undang-Undang AI yang lebih komprehensif.

Jadi, pertanyaannya bukan lagi apakah AI perlu diatur.

Pertanyaannya: seberapa jelas pembagian tanggung jawabnya?

Prediksi ke Depan

Dalam 2–5 tahun ke depan, saya memperkirakan akan muncul tiga perubahan besar.

Pertama, AI akan semakin sering menjadi “pengambil keputusan awal”, bukan sekadar pemberi rekomendasi.

Kedua, masyarakat akan mulai menuntut hak untuk mengetahui kapan keputusan dibuat atau dibantu AI.

Ketiga, organisasi tidak cukup hanya mengatakan, “AI yang salah.”

Mereka akan dituntut memiliki audit trail: siapa yang menggunakan AI, data apa yang dipakai, model apa yang digunakan, siapa yang memeriksa hasilnya, dan siapa yang akhirnya menyetujui keputusan.

Inilah wilayah baru Predictive Sociology.

Kita tidak hanya memprediksi perilaku manusia, tetapi juga memprediksi konflik sosial yang muncul ketika manusia menyerahkan sebagian kewenangannya kepada mesin.

Lalu, Apa yang Harus Kita Lakukan?

Untuk akademisi dan mahasiswa, jangan hanya belajar cara menggunakan AI. Pelajari juga bagaimana AI bekerja dalam struktur sosial.

Untuk Gen Z, satu prinsip sederhana penting diingat:

Jangan pernah menganggap jawaban AI sebagai kebenaran hanya karena terdengar pintar.

Dan untuk pemerintah maupun organisasi, prinsipnya lebih tegas:

Jika manusia mendapatkan manfaat dari AI, manusia pula yang harus memikul tanggung jawab atas penggunaannya.

AI boleh semakin cerdas.

Tetapi jangan sampai tanggung jawab manusia justru semakin bodoh.

Sebab persoalan terbesar masa depan bukan ketika AI melakukan kesalahan.

Persoalannya adalah ketika tidak ada manusia yang mau mengaku bertanggung jawab.