Literasi Hukum – Artikel ini menjelaskan mengenai pentingnya memahami konsep ADS (Algorithmic Decision-Making) bagi mahasiswa hukum.
Algorithmic decision-making atau yang disingkat menjadi ADS merupakan satu teknologi, sesuai dengan namanya, dapat memberikan decision atau keputusan berdasarkan algoritma dalan suatu konteks tertentu. Basis bagi teknologi ini untuk mengambil keputusan adalah berdasarkan dengan data, yang kemudian diolah oleh algoritma. Pasca pandemi, di mana ranah digital telah secara masif terdisrupsi sedemikian rupa, penggunaan machine learning serta ADS dalam pemerintahan berkembang secara pesat. Kekhawatiran serta kritik muncul akibat banyak pihak yang mempertanyakan persoalan legitimasi, baik legitimasi dari ADS itu sendiri dan legitimasi pemerintah yang memutuskan untuk memanfaatkan teknologi ini. Pihak lain juga mempertanyakan mengenai hal yang lebih fundamental, yaitu persoalan empati serta etis.
Kekhawatiran Terhadap Eksistensi Algorithmic Decision-Making
Kekhawatiran tersebut bukan tanpa dasar, beberapa penelitian menunjukkan bahwa penggunaan ADS dapat disalahgunakan sehingga menimbulkan dampak negatif mulai dari tindakan diskriminasi, memperjelas ketimpangan sosial, hingga pelanggaran hak asasi manusia. Beberapa kasus juga menunjukkan bahwa praktik penggunaan teknologi ADS yang mengadopsi fitur face recognition di suatu negara telah menguntungkan salah satu ras, dengan mengesampingkan ras yang lain.
Tentu dampak ini muncul bukan karena intensi kesengajaan, namun karena langkah terburu-buru dalam adopsi teknologi tanpa menggunakan pendekatan menyeluruh dan tindakan pencegahan serta perlindungan lebih lanjut. Akibatnya, beberapa negara maju yang mengadopsi teknologi ini pada akhirnya harus menangguhkan penggunaan teknologi ini sampai memiliki infrasruktur yang lebih memadai. Mengesampingkan potensi masalah teknis, ADS secara konsep diunggulkan sebagai terobosan yang dapat meningkatkan tingkat transparansi serta akuntabilitas dari pemerintah karena sifatnya yang data-driven atau berbasis data.
Manfaat Algorithmic Decision-Making
Di sisi lain, beberapa opini yang bernada positif mencoba mengeksplorasi kemungkinan ADS berbasis artificial intellegence dimanfaatkan dalam praktik pengadilan; dalam ranah ini ADS digunakan untuk membantu hakim dalam pembuatan keputusan berdasarkan records elektronik yang tersimpan dalam database. Logika serta mekanisme yang sama juga dapat digunakan untuk membantu pemerintah dalam decision-making pun dalam melakukan prediksi-prediksi untuk mitigasi di masa depan. Beberapa hal teknis, dalam membantu dalam melakukan audit perpajakan serta membangun sistem pendistribusian jaminan sosial. Beberapa negara seperti di negara-negara Amerika Serikat, Uni Eropa, Perancis, telah mengeluarkan landasan hukum yang secara terbatas memberikan “aturan main” penggunaan ADS di negaranya.
Penggunaan ADS dalam Praktik Pemerintahan di Negara Demokrasi
Jelas bahwa penggunaan ADS dalam praktik pemerintahan di negara demokrasi mendatangkan banyak pendapat kontra. Secara sederhana dapat dijelaskan bahwa peran civil society yang memiliki kewajiban serta hak untuk menentukan nasibnya sendiri serta berpartisipasi dalam pembuatan kebijakan akan digantikan oleh mesin. Seorang ahli hukum, misalnya, menyebut ADS sebagai “toxic cocktail for democracy” –racun bagi demokrasi. Tentu sebagai seorang sarjana hukum yang dibekali dengan kemampuan berpikir kritis, kita tidak boleh serta merta menolak suatu konsep yang berpotensi mendatangkan perubahan besar, meskipun sesuatu tersebut dapat mengubah cara dan pandangan hidup kita secara fundamental.
ADS tidak lain tidak bukan adalah sebuah alat, dalam pandangan etis tanggungjawab atas penggunaan alat tetap berada pada pihak yang mempergunakan. Artinya, memaksimalkan praktik demokrasi dengan menggunaan ADS, secara teori merupakan hal yang sangat mungkin. Pembatasan-pembatasan mengenai isu apa yang dapat diangkat, langkah kontrol, serta evaluasi yang menyeluruh terhadap “hasil kerja” AI, merupakan cara-cara yang dapat dimanfaatkan agar ADS tidak menjadi ancaman bagi demokrasi. Menentukan batasan, mempersiapkan landasan hukum yang kuat, serta pandangan political of care yang kuat merupakan hal yang dapat dipersiapkan dalam menerapkan ADS dalam pratik pemerintahan yang transparan dan akuntabel.
*Artikel ini merupakan opini pribadi penulis dan tidak mewakili pandangan redaksi Literasi Hukum Indonesia.
