Algorithm Bias

Algorithm bias berbicara tentang ketidaknetralan yang bekerja melalui sistem. Banyak orang membayangkan algoritma sebagai sesuatu yang dingin, objektif, dan bebas rasa. Justru di situlah bahayanya. Ketika sebuah sistem terlihat impersonal, orang lebih mudah mempercayai hasilnya tanpa cukup curiga. Padahal algoritma tidak lahir di ruang hampa. Ia dibuat oleh manusia, memakai data dari dunia yang sudah tidak netral, dan diarahkan oleh tujuan tertentu. Karena itu, bias dalam algoritma bukan keanehan. Ia hampir selalu mungkin. Yang berubah hanya seberapa halus ia bekerja, seberapa luas dampaknya, dan seberapa sulit ia dikenali.

Yang khas dari algorithm bias adalah ia sering tidak tampil sebagai kebencian yang vulgar. Ia hadir sebagai ranking, rekomendasi, klasifikasi, penyaringan, prediksi, prioritas, atau visibilitas. Sesuatu atau seseorang tidak harus secara terang-terangan diserang untuk dirugikan. Cukup dibuat kurang terlihat, kurang diprioritaskan, kurang dipahami, atau terus dibaca melalui pola data yang sempit. Di situ, bias bekerja dengan cara yang sangat modern: bukan selalu lewat penolakan langsung, tetapi lewat distribusi peluang yang diam-diam timpang. Ada yang lebih mudah muncul, lebih mudah dipercaya, lebih mudah diberi akses. Ada yang sebaliknya, terus berada di pinggir tanpa harus pernah secara eksplisit dilarang.

Sistem Sunyi membaca algorithm bias sebagai bentuk pereduksian realitas melalui logika yang tampak rapi. Yang menjadi soal bukan hanya akurasi teknis, tetapi arah pembacaan. Ketika manusia dibaca terutama sebagai pola yang bisa diprediksi, diklasifikasi, dan dioptimalkan, ada banyak hal yang mudah hilang: konteks, kedalaman, pengecualian, luka historis, dan kompleksitas hidup yang tidak mudah masuk ke model. Dalam bentuk ini, bias algoritmik bukan hanya problem mesin. Ia adalah problem epistemik. Sistem mengira ia sedang membaca kenyataan, padahal ia sedang menata kenyataan agar sesuai dengan bentuk yang ia sanggup tangkap. Yang tersisa di luar bentuk itu perlahan dianggap noise, padahal bisa jadi justru di sanalah kemanusiaan yang paling penting berada.

Dalam keseharian, algorithm bias bisa tampak dalam hasil pencarian yang terus menguatkan satu jenis sudut pandang, rekomendasi konten yang menyempitkan dunia pengguna, sistem rekrutmen yang lebih menguntungkan profil tertentu, moderasi otomatis yang salah membaca bahasa atau identitas tertentu, penilaian kredit atau risiko yang memperpanjang ketimpangan lama, sampai sistem platform yang membuat sebagian suara lebih mudah beredar daripada yang lain. Kadang orang tidak menyadarinya karena semua itu terasa seperti alur biasa dari teknologi. Namun justru karena ia terasa biasa, dampaknya menjadi besar. Orang mulai hidup di dalam lingkungan digital yang tidak hanya memfasilitasi pilihan, tetapi juga membentuk apa yang terlihat layak dipilih.

Algorithm bias perlu dibedakan dari bug biasa. Bug adalah kesalahan fungsi yang bisa bersifat acak atau langsung rusak, sedangkan bias algoritmik menandai kecenderungan arah yang tetap bekerja dan sering berulang. Ia juga perlu dibedakan dari personal bias semata. Memang manusia yang merancang sistem punya bias, tetapi algorithm bias adalah bentuk ketika bias itu terstruktur ke dalam mekanisme, data, dan output sehingga bekerja dalam skala yang lebih luas. Ia berbeda pula dari personalization murni. Personalisasi bisa berguna, tetapi ketika personalisasi terlalu bertumpu pada asumsi sempit atau insentif platform yang berat sebelah, ia mudah bergeser menjadi bias yang membatasi horizon pengguna.

Di lapisan yang lebih dalam, algorithm bias menunjukkan bahwa teknologi bukan hanya alat bantu, tetapi juga lensa. Ia ikut menentukan apa yang mudah terlihat, siapa yang mudah dipercaya, apa yang dianggap relevan, dan kemungkinan mana yang perlahan disisihkan. Dari sana, bias algoritmik bukan sekadar soal Fairness teknis, tetapi soal bagaimana dunia disusun ulang melalui sistem yang jarang kelihatan tetapi terus bekerja. Karena itu, pematangannya tidak dimulai dari memusuhi teknologi secara kosong, melainkan dari membangun kejernihan bahwa setiap sistem selalu membawa asumsi. Jika asumsi itu tidak dibaca, orang mudah menyerahkan penilaian hidupnya pada mesin yang tampak netral tetapi sebenarnya sedang membawa peta nilai yang tidak pernah sungguh ia pilih secara sadar.