Norm-Governed AI

Norm-governed AI berbicara tentang satu kebutuhan mendasar dalam zaman teknologi: kemampuan besar harus hidup di bawah aturan yang lebih besar daripada dirinya sendiri. AI dapat semakin cepat, semakin presisi, dan semakin luas menjangkau kehidupan manusia. Namun semakin besar kekuatannya, semakin penting pula pertanyaan tentang norma. Bukan hanya apa yang bisa dilakukan AI, tetapi apa yang seharusnya tidak ia lewati, ukuran apa yang menahan penggunaannya, dan tatanan apa yang menjaga agar teknologi tidak merusak kehidupan yang hendak dilayaninya.

Yang membuat pendekatan ini penting adalah karena AI mudah dipahami sebagai alat netral. Jika ia dianggap netral semata, maka penggunaannya sering dibenarkan hanya lewat manfaat, kecepatan, atau hasil. Padahal setiap sistem yang masuk ke wilayah manusia selalu bersentuhan dengan norma, baik disadari maupun tidak. Ada cara memakai AI yang merendahkan martabat manusia. Ada cara mendesain AI yang menormalisasi manipulasi. Ada cara menerapkan AI yang mungkin efisien, tetapi bertabrakan dengan rasa adil, tanggung jawab, atau batas yang layak. Di sinilah norm-governed AI menjadi penting. Ia menegaskan bahwa teknologi harus berjalan dalam pagar kaidah yang mengikat, bukan hanya dalam ruang kemungkinan yang terbuka.

Sistem Sunyi membaca norm-governed AI sebagai upaya menjaga agar teknologi tidak menjadi wilayah tanpa tata. Norma memberi bentuk. Norma membuat kekuatan tidak bergerak liar. Norma menahan manusia dari godaan untuk memakai AI semata menurut kepentingan sesaat atau kapasitas teknis tertinggi. Dalam hal ini, AI tidak boleh lebih dahulu menentukan arah, sementara manusia hanya menyesuaikan diri. Yang lebih dulu harus ada adalah ukuran tentang apa yang patut, apa yang tak layak, apa yang melindungi, dan apa yang tidak boleh dikorbankan. Dengan demikian, norma bukan tambahan yang dipasang belakangan, melainkan bagian dari fondasi yang menentukan apakah suatu penggunaan AI dapat dibenarkan.

Dalam keseharian, norm-governed AI tampak ketika sistem diberi batas penggunaan yang jelas, ketika pengembang dan pengguna tidak hanya bertanya apa yang paling efektif tetapi juga apa yang paling layak, ketika organisasi menolak penggunaan AI tertentu karena bertentangan dengan norma profesi atau norma kemanusiaan, dan ketika masyarakat menuntut agar AI tunduk pada kaidah bersama alih-alih dibiarkan memimpin tanpa pagar. Ia juga tampak ketika AI dipakai sebagai alat bantu dan bukan sebagai legitimasi otomatis untuk keputusan yang berdampak besar pada manusia.

Term ini perlu dibedakan dari rule-based AI. Rule-Based AI merujuk pada sistem yang bekerja dengan aturan teknis tertentu di tingkat arsitektur atau logika operasional. Norm-governed AI lebih luas. Ia menyorot tatanan normatif yang mengatur desain, penggunaan, dan legitimasi sosial-moral dari AI. Ia juga berbeda dari Ethical AI. Ethical AI adalah istilah yang lebih umum tentang AI yang layak secara etis. Norm-governed AI memberi aksen khusus pada Keterikatan AI pada norma yang mengatur batas perilaku dan penggunaan. Ia pun dekat dengan Morally-Governed AI, tetapi norm-governed AI lebih menonjolkan bahasa kaidah, aturan, dan tatanan bersama yang mengikat secara praktis maupun moral.

Di titik yang lebih jernih, norm-governed AI menunjukkan bahwa persoalan AI bukan hanya soal seberapa canggih teknologi dapat menjadi, tetapi seberapa kuat manusia menjaga agar kecanggihan itu tetap berada di bawah tatanan yang layak. Maka yang dibutuhkan bukan anti-teknologi, melainkan Ketegasan bahwa teknologi harus tinggal di dalam rumah norma, bukan hidup di luar pagar. Dari sana, AI dapat berkembang sebagai kekuatan yang berguna tanpa berubah menjadi kuasa yang liar, kabur, dan lepas dari pertanggungjawaban manusia.