AI Bersikap Diskriminatif? Apa Buktinya?
Pernah merasa hasil pencarian Google, rekomendasi media sosial, atau jawaban AI seperti “lebih memihak” kepada kelompok tertentu? Mungkin kita menganggapnya sekadar kesalahan teknologi. Tetapi pertanyaannya lebih serius: bagaimana jika mesin memang dapat menghasilkan keputusan yang diskriminatif?
Di sinilah persoalan AI menjadi menarik. AI tidak memiliki kebencian seperti manusia. Ia tidak bangun pagi lalu memutuskan untuk membenci kelompok tertentu. Namun, AI belajar dari data manusia. Jika data tersebut mengandung ketimpangan, stereotip, atau diskriminasi, algoritma berpotensi mempelajari dan mengulanginya.
Jadi, apakah AI bisa bersikap diskriminatif? Jawabannya: bisa. Tetapi untuk menyebut sebuah sistem diskriminatif, kita membutuhkan bukti, bukan sekadar perasaan.
Diskriminasi Tidak Selalu Berwajah Kasar
Dalam kajian sosial, diskriminasi tidak hanya berarti tindakan terang-terangan merendahkan kelompok lain. Diskriminasi juga dapat muncul melalui perlakuan berbeda, kesempatan yang tidak seimbang, atau keputusan yang secara konsisten merugikan kelompok tertentu.
Teori Identitas Sosial Tajfel dan Turner menjelaskan bahwa manusia cenderung mengategorikan pribadinya ke dalam kelompok “kami” dan membedakannya dari “mereka”. Kecenderungan ini dapat melahirkan ingroup favoritism—memberikan keuntungan lebih besar kepada kelompok sendiri.
Masalahnya, algoritma AI belajar dari dunia yang sudah memiliki kategori-kategori tersebut.
Jika data rekrutmen masa lalu lebih banyak memilih laki-laki untuk posisi tertentu, misalnya, sebuah sistem AI dapat mempelajari pola tersebut. Jika data historis pelayanan publik mengandung ketimpangan terhadap kelompok tertentu, algoritma juga berpotensi mengulangnya.
Mesin tidak harus memiliki prasangka untuk menghasilkan keputusan yang berprasangka.
Maka Itulah bagian yang sering kita lewatkan.
Baca juga : Teknologi Mulai Mengambil Keputusan atas Nama Manusia?
Indonesia: Apakah Kita Punya Buktinya?
Indonesia bukan ruang sosial yang bebas dari diskriminasi. Data SETARA Institute menunjukkan bahwa sepanjang 2024 terdapat 260 insiden dengan 402 tindakan pelanggaran kebebasan beragama atau berkeyakinan. Dari jumlah tersebut, tercatat 50 tindakan diskriminatif oleh aktor negara dan 73 tindakan intoleransi oleh masyarakat. Angkanya meningkat bandingkan tahun2023.
Pada saat yang sama, BPS bersama Kementerian HAM mencatat Indeks HAM Indonesia 2024 sebesar 63,20, dengan dimensi hak sipil dan politik berada pada angka 58,28.
Data tersebut tentu bukan bukti bahwa AI Indonesia diskriminatif. Justru sebaliknya, data itu menunjukkan sesuatu yang lebih mendasar: AI berkembang di tengah masyarakat yang memang memiliki ketimpangan sosial.
Karena itu, pertanyaan pentingnya bukan hanya “Apakah AI bias?”, tetapi:
Data siapa yang menggunakannya? Siapa yang membuat algoritmanya? Siapa yang paling sering merasa rugi ketika sistem salah?
Bayangkan AI gunakan untuk seleksi pekerjaan, pemberian kredit, penilaian mahasiswa, moderasi konten, layanan kesehatan, atau pelayanan publik. Kesalahan kecil yang terjadi jutaan kali dapat berubah menjadi masalah sosial besar.
Masa Depan AI Tidak Cukup Hanya “Akurat”
Kita terlalu sering menilai AI berdasarkan satu ukuran: akurasi.
Padahal sistem bisa sangat akurat secara statistik tetapi tetap tidak adil secara sosial.
Karena itu, pemerintah, kampus, perusahaan teknologi, dan lembaga publik perlu mulai melakukan audit algoritma, menguji kemungkinan bias berdasarkan kelompok sosial, menyediakan mekanisme keberatan, serta memastikan keputusan penting tidak sepenuhnya diserahkan kepada mesin.
Lebih jauh lagi, literasi AI harus memasukkan literasi etika dan diskriminasi algoritmik. Mahasiswa ilmu komputer perlu belajar tentang masyarakat. Mahasiswa ilmu sosial perlu memahami cara kerja algoritma.
Sebab, masa depan bukan hanya tentang manusia yang menggunakan AI.
Masa depan adalah ketika keputusan tentang manusia semakin sering dibuat dengan bantuan mesin.
Dan ketika itu terjadi, kita tidak boleh hanya bertanya, “Seberapa pintar AI?”
Kita harus bertanya lebih keras:
“Untuk siapa AI bekerja, siapa yang diuntungkan, dan siapa yang mungkin dikorbankan?”
Itulah bukti yang sebenarnya perlu kita cari.