Teknologi Mulai Mengambil Keputusan atas Nama Manusia?

Bayangkan kamu mengajukan pinjaman, tetapi yang menentukan layak atau tidak bukan lagi petugas bank. Sebuah sistem membaca riwayat transaksi, perilaku digital, lokasi, hingga pola pembayaran, lalu menghasilkan skor risiko. Keputusan manusia kemudian tinggal mengikuti angka yang muncul di layar.

Situasi seperti ini bukan lagi fiksi.

AI semakin bergeser dari sekadar alat bantu menjadi mesin rekomendasi, penyaring, bahkan pengambil keputusan. Di media sosial, algoritma menentukan konten apa yang kita lihat. Di platform digital, sistem memprediksi apa yang ingin kita beli. Dalam layanan keuangan, teknologi credit scoring berbasis big data dan machine learning mulai orang gunakan untuk menilai risiko kredit. OJK bahkan mencatat bahwa inovasi credit scoring telah kembang untuk memperluas inklusi kredit di Indonesia.

Masalahnya sederhana tetapi serius: ketika mesin mulai menentukan pilihan manusia, siapa sebenarnya yang bertanggung jawab?

Ketika Algoritma Menjadi “Hakim”

Dalam sosiologi teknologi, teknologi tidak pernah benar-benar netral. Ia terbentuk oleh manusia, data, kepentingan ekonomi, serta nilai yang tertanam dalam proses desainnya.

Di sinilah konsep algorithmic decision-making menjadi penting.

AI bekerja berdasarkan data masa lalu. Jika data tersebut mengandung ketimpangan, bias, atau representasi kelompok tertentu yang tidak seimbang, algoritma berpotensi mengulang bahkan memperbesar ketimpangan tersebut.

Lebih berbahaya lagi adalah munculnya automation bias: manusia cenderung mempercayai rekomendasi mesin karena dia menganggap lebih objektif, cepat, dan berbasis data.

Padahal, “berbasis data” tidak otomatis berarti “bebas bias”.

Regulasi AI Uni Eropa bahkan secara eksplisit mengharuskan sistem AI berisiko tinggi tetap berada dalam pengawasan manusia. Manusia harus mampu memahami keterbatasan sistem, mengoreksi hasilnya, bahkan mengabaikan keputusan AI ketika perlu.

Artinya, persoalan sebenarnya bukan AI versus manusia.

Persoalannya adalah: apakah manusia masih memiliki kekuasaan untuk mengatakan “tidak” kepada mesin?

Indonesia: Kita Sudah Masuk Fase Itu

Indonesia tidak berada di luar perubahan tersebut.

Pada Februari 2026, Kementerian Komunikasi dan Digital menyebut tingkat adopsi AI di Indonesia telah mencapai 92 persen. Namun pemerintah juga mengakui bahwa penggunaan AI untuk produktivitas dan penciptaan nilai ekonomi masih perlu perluasan

Angka tersebut menunjukkan satu hal: masyarakat Indonesia bergerak sangat cepat dalam menerima AI.

Namun kecepatan adopsi tidak selalu sejalan dengan kesiapan sosial.

Pada April 2026, pemerintah juga mengingatkan bahwa penggunaan AI yang terlalu instan dapat menggerus kemampuan berpikir kritis. Karena itu, pendekatan human-in-the-loop ditekankan agar manusia tetap menjadi pusat pengambilan keputusan.

Lebih menarik lagi, pemerintah Indonesia kini sedang menyiapkan Perpres tentang Peta Jalan AI Nasional dan Etika AI. Pada Agustus 2026, pemerintah kembali menegaskan bahwa ketika AI mulai mampu merencanakan, mengambil keputusan, dan mengeksekusi tindakan secara mandiri, tata kelola tidak boleh tertinggal.

Ini bukan lagi persoalan masa depan. Ini persoalan hari ini.

Jangan Sampai Manusia Hanya Menjadi “Tombol Setuju”

Tantangan terbesar AI bukan ketika mesin menjadi lebih pintar daripada manusia.

Tantangan sebenarnya muncul ketika manusia menjadi terlalu malas untuk berpikir karena mesin dia anggap selalu benar.

Karena itu, kebijakan AI Indonesia tidak cukup hanya mengatur keamanan data atau melarang penyalahgunaan teknologi. Kita membutuhkan aturan yang memastikan keputusan berdampak tinggi—misalnya dalam keuangan, kesehatan, pendidikan, pekerjaan, bantuan sosial, dan layanan publik—memiliki mekanisme pengawasan manusia yang nyata.

Masyarakat juga berhak mengetahui ketika keputusan penting terhadap dirinya dibantu atau dipengaruhi algoritma.

Lebih jauh, setiap keputusan AI yang merugikan seseorang harus memiliki jalur keberatan, audit, dan pertanggungjawaban.

Indonesia sedang berada di persimpangan penting. Kita bisa menjadi masyarakat yang menggunakan AI untuk memperkuat kemampuan manusia.

Atau sebaliknya, menjadi masyarakat yang perlahan menyerahkan kemampuan menilai, memilih, dan memutuskan kepada mesin.

Pertanyaan masa depan bukan lagi:

“Seberapa pintar AI?”

Pertanyaan yang jauh lebih penting adalah:

“Seberapa lama manusia masih berani mengambil keputusan sendiri?”