Algorithmic Decision Bias

Algorithmic decision bias berbicara tentang ketimpangan yang masuk ke wilayah penentuan hasil. Ini lebih serius daripada sekadar sesuatu sering muncul di feed. Di sini yang dipertaruhkan bukan hanya perhatian, tetapi keputusan. Seseorang bisa lebih mudah ditolak, disaring, dicurigai, direndahkan prioritasnya, atau kehilangan peluang bukan karena pembacaan manusia yang terbuka untuk diperdebatkan, melainkan karena sistem otomatis telah memberi bobot tertentu pada dirinya. Yang membuatnya rumit adalah keputusan algoritmik sering tampil sangat meyakinkan. Ada angka. Ada skor. Ada klasifikasi. Ada ranking. Semua tampak seperti hasil yang bersih. Padahal bisa jadi yang sedang bekerja adalah ketimpangan yang sudah lama tersembunyi di dalam rancangan.

Yang khas dari algorithmic decision bias adalah ia tidak selalu terlihat sebagai permusuhan. Ia sering hadir dalam bentuk keputusan yang tampak prosedural. Seseorang tidak diterima. Tidak direkomendasikan. Tidak diprioritaskan. Tidak lolos penilaian. Tidak mendapat akses yang sama. Semua itu bisa terjadi tanpa ada kata kasar, tanpa diskriminasi yang diucapkan terang-terangan, dan tanpa pelaku tunggal yang mudah ditunjuk. Justru di situlah bahayanya. Bias beroperasi dalam bentuk keputusan yang tampak impersonal. Karena ia tampak dingin dan sistematis, orang lebih mudah mengira hasilnya layak dipercaya, padahal yang diputuskan bisa tetap sangat timpang.

Sistem Sunyi membaca algorithmic decision bias sebagai bentuk pergeseran kuasa dari penilaian manusia yang setidaknya terlihat wajahnya ke penilaian sistem yang lebih sulit dibaca namun sama sekali tidak bebas arah. Yang menjadi soal bukan hanya apakah sistem itu efisien, tetapi siapa yang diuntungkan dan siapa yang terus dirugikan oleh pola keputusannya. Dalam bentuk ini, keputusan tidak lagi sekadar salah satu hasil teknis. Ia menjadi perpanjangan dari cara dunia dibaca dan disusun. Ketika sistem terus memutuskan dengan kecenderungan yang sama, ketimpangan lama tidak hanya dipertahankan. Ia bisa menjadi lebih kuat karena sekarang dibungkus sebagai objektivitas.

Dalam keseharian, algorithmic decision bias bisa tampak pada sistem rekrutmen yang lebih menguntungkan profil tertentu, penilaian kredit yang menghukum kelompok tertentu secara berulang, moderasi otomatis yang lebih sering salah membaca bahasa atau identitas tertentu, ranking yang terus mendorong jenis konten tertentu sambil menurunkan yang lain, atau sistem risiko yang memperlakukan orang seolah mereka identik dengan pola data lama yang melekat pada kelompoknya. Kadang pengguna awam tidak menyadarinya karena keputusan datang begitu saja dalam bentuk hasil akhir. Tetapi bagi yang terdampak, hasil itu bisa sangat nyata. Ia menentukan kesempatan, visibilitas, reputasi, bahkan rasa pantas terhadap diri sendiri.

Algorithmic decision bias perlu dibedakan dari bug biasa. Bug adalah kerusakan atau kesalahan fungsi, sedangkan di sini yang bekerja adalah kecenderungan arah keputusan yang stabil dan berulang. Ia juga perlu dibedakan dari Algorithm Bias yang lebih umum. Algorithm bias dapat menyangkut visibilitas, rekomendasi, atau prioritas, sedangkan algorithmic decision bias secara khusus menyoroti bias dalam keputusan yang menentukan hasil. Ia berbeda pula dari personal Prejudice. Prasangka personal bekerja melalui individu, sedangkan bias keputusan algoritmik bekerja melalui struktur sistem yang dapat memengaruhi banyak orang sekaligus dalam skala besar. Ia juga tidak sama dengan keputusan sulit yang kebetulan tidak menyenangkan. Yang penting di sini adalah adanya pola ketimpangan yang tertanam.

Di lapisan yang lebih dalam, algorithmic decision bias menunjukkan bahwa salah satu ilusi paling kuat di zaman ini adalah mengira bahwa keputusan yang dihitung pasti lebih adil daripada keputusan yang dirasakan. Padahal angka pun bisa membawa warisan luka sejarah, pengurangan konteks, dan definisi nilai yang berat sebelah. Karena itu, pematangannya tidak dimulai dari menolak semua sistem keputusan otomatis, melainkan dari membangun kejernihan bahwa keputusan yang tampak netral tetap perlu dibaca secara etis. Pertanyaan pentingnya bukan hanya apakah sistem ini bekerja, tetapi bagaimana ia memutuskan, siapa yang sering dirugikan, dan asumsi apa yang diam-diam dianggap wajar di dalamnya. Tanpa pertanyaan itu, manusia berisiko hidup di bawah keputusan yang makin jauh dari wajah manusia tetapi tetap sangat menentukan kehidupan manusia.