Artificial Intelligence Tidak Netral! Siapa yang Menanamkan Nilai?

Bayangkan kamu bertanya kepada AI: “Siapa tokoh paling berpengaruh dalam sejarah?” Jawabannya mungkin terlihat objektif. Tetapi, pernahkah kita bertanya: mengapa tokoh itu yang muncul, bukan tokoh lain?

Di sinilah persoalan AI menjadi jauh lebih menarik.

Kita sering menganggap Artificial Intelligence (AI) sebagai mesin pintar yang bekerja berdasarkan data dan algoritma. Seolah-olah AI tidak memiliki kepentingan, emosi, budaya, atau ideologi. Padahal, AI tidak pernah lahir dari ruang kosong. Ia buatan manusia, terlatih menggunakan data buatan manusia, dan berguna dalam masyarakat yang penuh dengan nilai, kepentingan, serta ketimpangan.

Jadi, pertanyaan yang lebih penting bukan lagi “Apakah AI pintar?”, melainkan “Nilai siapa yang sedang bekerja melalui AI?”

Algoritma Tidak Pernah Benar-Benar Netral

Dalam perspektif sosiologi teknologi, teknologi tidak hanya membentuk masyarakat. Masyarakat juga ikut menentukan bagaimana rancangan teknologi dan berguna.

Langdon Winner, melalui gagasan politics of artifacts, pernah mengingatkan bahwa teknologi dapat mengandung pilihan-pilihan politik dan sosial. Sebuah sistem tidak sekadar menjalankan fungsi teknis. Dalam desainnya terdapat keputusan tentang siapa yang menjadi prioritas, data apa yang dia anggap penting, dan perilaku apa yang dia anggap benar.

AI bekerja dengan cara serupa.

Data pelatihan menentukan apa yang pelajari AI. Algoritma menentukan bagaimana proses informasi. Pengembang menentukan tujuan sistem. Perusahaan menentukan model bisnis. Pemerintah menentukan regulasi. Bahkan pengguna ikut memengaruhi sistem melalui pola interaksi mereka.

Dengan kata lain, AI adalah produk sosial sebelum menjadi produk teknologi.

UNESCO bahkan menegaskan bahwa AI dapat mereproduksi dan memperkuat bias yang sudah ada dalam masyarakat. Karena itu, prinsip seperti keadilan, transparansi, keberagaman, perlindungan hak asasi manusia, dan pengawasan manusia menjadi bagian penting dalam tata kelola AI.

Masalahnya, bias AI sering tidak terlihat.

AI tidak mengatakan, “Saya sedang bias.”

Ia hanya memberikan jawaban.

Dan justru karena jawabannya terlihat ilmiah dan objektif, manusia bisa menerima keputusan tersebut tanpa banyak bertanya.

Indonesia: Kita Sudah Menggunakan AI, Tetapi Siapkah Kita Mengkritisinya?

Fenomena ini bukan persoalan negara maju saja.

Indonesia justru sedang mengalami percepatan adopsi AI.

Survei PwC Global Workforce Hopes and Fears 2025 menunjukkan 69% pekerja di Indonesia telah menggunakan AI dalam pekerjaannya dalam satu tahun terakhir, sementara 16% menggunakannya setiap hari. Menariknya, penggunaan AI juga berkaitan dengan persepsi peningkatan produktivitas: 96% pengguna GenAI harian di Indonesia melaporkan produktivitas meningkat.

Data Microsoft juga menunjukkan betapa cepatnya perubahan ini. Pada 2024, 92% pekerja pengetahuan di Indonesia telah menggunakan generative AI di tempat kerja, dan 76% bahkan membawa alat AI mereka sendiri ke lingkungan kerja.

Pertanyaannya: apakah kemampuan menggunakan AI sudah mengikuti kemampuan mempertanyakan AI?

Ini persoalan besar.

Andaikan mahasiswa menggunakan AI untuk menulis tugas, guru menggunakannya untuk membuat materi, perusahaan menggunakannya untuk menyaring pelamar kerja, dan pemerintah menggunakannya untuk membantu pengambilan keputusan, maka nilai yang tertanam dalam sistem AI akan ikut memengaruhi kehidupan sosial.

Kemudian datanya lebih banyak berasal dari masyarakat tertentu, perspektif tertentu bisa menjadi lebih dominan.

Bilamana bahasa Indonesia dan bahasa daerah kurang terwakili, pengetahuan lokal berpotensi semakin tidak terlihat.

Jika indikator keberhasilan hanya ditentukan oleh efisiensi, maka nilai manusia bisa dikalahkan oleh angka.

Inilah risiko yang sering luput dari pembicaraan tentang revolusi AI.

Kita sibuk bertanya apakah AI akan menggantikan manusia, tetapi lupa bertanya manusia seperti apa yang sedang membangun AI tersebut.

Kebijakan AI Tidak Boleh Hanya Mengejar Inovasi

Indonesia mulai menyadari persoalan tersebut. Pemerintah telah menyusun Rancangan Perpres tentang Etika AI dan Peta Jalan AI Nasional 2026–2029. Pada Mei 2026, pembahasan lintas kementerian untuk kedua rancangan tersebut telah selesai dan dia arahkan untuk membangun ekosistem AI yang etis, aman, dan bertanggung jawab.

Namun regulasi saja tidak cukup.

Indonesia membutuhkan tata kelola AI yang memasukkan nilai-nilai masyarakat Indonesia, bukan sekadar mengadopsi standar teknologi global.

Kita membutuhkan keterlibatan akademisi, masyarakat sipil, komunitas budaya, pendidik, pelaku industri, kelompok rentan, dan masyarakat daerah dalam menentukan bagaimana AI seharusnya bekerja.

Karena masa depan AI bukan hanya persoalan teknologi.

Ia adalah persoalan kekuasaan, budaya, pendidikan, ekonomi, dan demokrasi.

Maka, mulai sekarang kita perlu mengubah pertanyaan.

Jangan hanya bertanya:

“Apa yang bisa dilakukan AI?”

Tetapi juga:

“Untuk siapa AI bekerja?”

“Nilai siapa yang dibawanya?”

Dan yang paling penting:

“Siapa yang memiliki kekuasaan untuk menentukan nilai tersebut?”

Jika pertanyaan-pertanyaan itu tidak kita ajukan sekarang, bisa jadi suatu hari nanti kita hidup dalam masyarakat yang keputusan-keputusannya dibuat oleh AI—sementara kita tidak pernah ikut menentukan nilai yang ditanamkan ke dalamnya.

AI mungkin tidak memiliki moral.

Tetapi manusia yang menciptakannya pasti punya nilai.

Dan di situlah pertarungan sesungguhnya dimulai.