Disadari atau tidak, aktifitas sehari-hari kita amat dipengaruhi oleh algoritma. Ketika kita gemar mendengarkan Oasis, aplikasi layanan streaming musik akan memutar Blur atau Suede, karena grup musik tersebut sama-sama beraliran British Pop/Rock. Begitu pula ketika kita mencari sepatu lari di platform belanja, tak berselang lama akan bermunculan produk smartwatch, pakaian olahraga, atau produk-produk lain yang kiranya dapat menunjang aktifitas olahraga. Di belakang layar algoritma bekerja dengan memperkirakan pola perilaku manusia, apabila seseorang suka X maka kemungkinan dia juga suka Y. Hal yang demikian ini disebut sebagai predictive algorithm.
Sederhananya, predictive algorithm adalah cara komputer menggunakan data masa lalu untuk membuat perkiraan mengenai apa yang mungkin terjadi pada masa depan. Semakin banyak data yang dimasukkan, semakin banyak pola yang dapat dicari oleh mesin ini.
Saya membayangkan bagaimana jika algoritma ini tidak hanya digunakan untuk memilih lagu atau menawarkan barang, tetapi juga digunakan untuk menilai pola perilaku seorang terdakwa. Apakah algoritma dapat memprediksi masa depan seseorang, seperti apakah seorang terdakwa berpotensi mengulangi tindak pidana yang ia lakukan di masa depan? Karena algorita dapat menganalisa pola perilaku saat ini untuk memprediksi masa depan. Lantas berat atau ringannya suatu pidana dijatuhkan dapat mempertimbangkan prediksi algoritma tersebut.
Pertanyaan tersebut sebetulnya bukan pertanyaan visioner karena faktanya di Amerika Serikat algoritma prediktif telah digunakan dalam sistem peradilan pidana untuk memperkirakan kemungkinan seseorang melakukan tindak pidana kembali di masa depan. Algoritma tersebut menggunakan berbagai informasi mengenai latar belakang seseorang untuk menghasilkan penilaian resiko (risk assessment). Apabila seorang terdakwa dikategorikan high risk artinya ia punya potensi besar untuk kembali melakukan pidana, maka pidana yang dijatuhkan akan lebih berat dibandingkan terdakwa yang masuk dalam kategori resiko rendah (low risk).
Sekilas, cara seperti ini tampak masuk akal. Algoritma dapat menganalisa kemungkinan seorang terdakwa mengulangi tindak pidana berdasarkan latar belakang apakah ia pernah dipidana sebelumnya, bagaimana lingkungan sosialnya, apa motifnya melakukan pidana yang saat ini sedang disidangkan, seperti apa latar belakang pendidikan atau ekonominya, dan informasi lain yang kiranya relevan.
ProPublica, lembaga jurnalisme investigasi di Amerika Serikat, pernah menguji sebuah perangkat bernama Correctional Offender Management Profiling for Alternative Sanctions (COMPAS). Perangkat ini digunakan untuk memperkirakan berapa besar kemungkinan seseorang mengulangi tindak pidana. Data yang dihasilkan COMPAS menjadi penting karena hasil penilaian tersebut dapat digunakan dalam berbagai putusan pengadilan, mulai dari pembebasan hingga pemidanaan.
ProPublica memperoleh data ratusan orang yang dinilai menggunakan COMPAS di Broward County, Florida. Hasil temuan tersebut menarik, COMPAS secara konsisten memprediksi terdakwa yang berasal dari kelompok ras kulit hitam lebih berisiko tinggi untuk mengulangi kejahatan dibanding terdakwa dari kelompok ras kulit putih. Naasnya prediksi algoritma tersebut terbukti meleset beberapa tahun berselang. Dimana ProPublica menemukan sebanyak 44,9 persen terdakwa kulit hitam dikategorikan berisiko tinggi tetapi ternyata tidak melakukan tindak pidana kembali. Pada kelompok kulit putih, angkanya 23,5 persen. Sebaliknya, 47,7 persen terdakwa kulit putih yang diprediksi berisiko rendah ternyata kemudian melakukan tindak pidana kembali, sedangkan pada terdakwa kulit hitam angkanya hanya 28 persen.
Secara gamblang, dapat disimpulkan bahwa algoritma yang digunakan COMPAS telah melakukan bias rasial. Ia cenderung menuduh terdakwa kulit hitam lebih rentan menjadi residivis daripada terdakwa kulit putih.
Pertanyaannya bagaimana bisa sebuah sistem komputer dan mesin algorita melakukan tindakan rasial?
Jawaban pertanyaan tersebut terletak pada sesuatu yang tak terlihat namun penting perannya, yaitu data. Algoritma tidak memiliki prasangka seperti manusia. Ia tidak membenci seseorang karena warna kulitnya, tidak mengenal stereotip, dan tidak mempunyai kehendak untuk bertindak diskriminatif. Algoritma hanya mengolah data mentah dan menemukan pola dari data tersebut. Persoalannya, data tidak pernah lahir dari ruang hampa.
Algoritma bekerja berdasarkan data yang diberikan kepadanya. Jika data yang digunakan untuk membangun suatu model mengandung kesalahan, ketimpangan, atau pola tertentu, algoritma dapat mempelajari pola tersebut melihatnya sebagai sebuah informasi valid. Dengan kata lain, mesin ini memproses prasangka dan menyuguhkannya sebagai fakta.
Inilah yang sering disebut sebagai garbage in, garbage out. Jika data yang dimasukkan bermasalah, keluaran yang dihasilkan juga berpotensi bermasalah. Namun dalam persoalan algoritma, istilah tersebut perlu diperluas. Bukan hanya data yang keliru yang berbahaya. Data yang benar tetapi tidak lengkap atau merepresentasikan ketimpangan juga dapat menghasilkan prediksi yang bermasalah.
Pada titik ini, algoritma sebenarnya tidak sedang “berbohong”. Ia justru sedang melakukan pekerjaannya dengan sangat konsisten. Ia menemukan pola yang memang terdapat dalam data. Yang menjadi persoalan adalah pola tersebut lantas digunakan untuk mengambil keputusan terhadap manusia. Kasus COMPAS memperlihatkan persoalan tersebut secara nyata.
Karena itu, sebelum bergumul pada perdebatan apakah algoritma layak dilibatkan dalam proses penegakan hukum? pertanyaan yang lebih mendasar harus diajukan: data apa yang digunakan, dari mana data tersebut berasal, bagaimana data dikumpulkan, dan bagaimana menjaga akurasi data tersebut.
Sebab sebagaimana ungkapan yang sangat tepat menggambarkan keterbatasan data: “Data itu ibarat bikini. Apa yang ditunjukkannya memang menggoda, tapi hal yang paling vital justru ia sembunyikan.”
Untuk Mendapatkan Berita Terbaru Suara BSDK, Follow Channel WhatsApp: SUARABSDKMARI