Pesatnya perkembangan teknologi kecerdasan artifisial (Artificial Intelligence/AI) membawa gelombang transformasi besar di berbagai sektor, tidak terkecuali pada lembaga peradilan. Namun, di balik efisiensi dan kecanggihan yang ditawarkan, pemanfaatan AI dalam proses yudisial menyimpan berbagai risiko mendasar yang wajib dipahami secara saksama oleh para penegak hukum.
Isu krusial tersebut menjadi fokus utama dalam Pelatihan Kecerdasan Artifisial Kejahatan, Batas Etika, dan Pemanfaatan di Pengadilan Gelombang 1 yang diselenggarakan oleh Pusat Pendidikan dan Pelatihan (Pusdiklat) Teknis Peradilan pada Badan Strategi Kebijakan dan Pendidikan dan Pelatihan Hukum dan Peradilan Mahkamah Agung RI (BSDK MARI). Kegiatan yang berlangsung secara dalam jaringan (daring) melalui Zoom Meeting pada Senin, 21 September 2026 ini diikuti oleh para hakim dan aparatur peradilan dari berbagai satuan kerja di Indonesia.
Pada sesi materi kedua bertajuk “Risiko AI dalam Sistem Peradilan”, Bapak Ruby Alamsyah, S.T., M.T.I. (CEO & Chief Digital Forensic PT Digital Forensic Indonesia) hadir memberikan pemaparan mendalam mengenai batasan teknis, potensi bahaya, serta tata kelola pemanfaatan AI di lingkungan pengadilan.
AI Tidak Memahami Hukum: Keterbatasan Konseptual Algoritma
Dalam pemaparannya, Ruby Alamsyah menegaskan satu prinsip fundamental: AI secara prinsip tidak memahami hukum sebagaimana seorang Hakim memahami dan menginternalisasi hukum.
AI bekerja berbasis pemrosesan data historis dan pengenalan pola (pattern recognition). Dalam teknis yudisial, AI hanya mampu mengambil dan mengolah data dari komponen penilaian yang sifatnya tertulis (textual/structured data), seperti:
- Berkas bukti surat dan dokumen formal;
- Peraturan perundang-undangan;
- Yurisprudensi atau Landmark Decisions; serta
- Dokumen administratif lainnya.
Namun, hukum dan keadilan tidak semata-mata lahir dari teks tertulis. AI memiliki keterbatasan absolut karena tidak mampu menangkap informasi non-verbal dan dinamika persidangan yang tidak tertulis, seperti:
- Mimik wajah, gestur, dan kondisi psikologis terdakwa maupun saksi;
- Fakta-fakta intuitif yang terungkap secara spontan di persidangan;
- Suasana batin serta dinamika pembuktian di ruang sidang.
Selain keterbatasan dalam menangkap dinamika persidangan, luaran (output) yang dihasilkan oleh AI juga menyimpan risiko keakuratan. AI sering kali mengalami fenomena hallucination, di mana sistem menyajikan data atau jawaban yang tampak sangat meyakinkan dan terstruktur rapi, padahal tidak memiliki dasar hukum atau fakta yang benar.
Tidak kalah krusial, penggunaan platform AI—terutama yang berbasis awan (cloud) atau pihak ketiga—dapat memicu risiko kerawanan siber berupa kebocoran data dan informasi rahasia perkara, yang berpotensi merusak integritas proses penegakan hukum.
Tiga Tingkatan Kontrol Manusia (Human-in/on/over-the-loop)
Menghadapi risiko-risiko tersebut, pemateri menekankan bahwa pemanfaatan AI di lembaga peradilan harus menempatkan manusia sebagai pemegang kendali utama (human in control). Terdapat tiga tingkatan tata kelola kontrol manusia yang harus diterapkan dalam ekosistem peradilan:
- Human-in-the-Loop (Manusia dalam Lingkaran Proses)
Manusia bertindak sebagai subjek yang mengontrol dan memberikan persetujuan langsung (direct approval). Sebelum output atau tindakan AI digunakan dalam proses yang berdampak signifikan, manusia wajib memeriksa, mengevaluasi, dan menyetujuinya secara manual. - Human-on-the-Loop (Manusia Pengawas Proses)
AI diberikan ruang untuk menjalankan proses atau analisis tertentu secara otomatis, tetapi manusia tetap bertindak sebagai pengawas yang memantau jalannya proses secara real-time dan berhak melakukan intervensi atau menghentikan sistem kapan saja jika ditemukan anomali. - Human-over-the-Loop (Manusia Penentu Tata Kelola)
Manusia berada di tingkat tertinggi untuk menetapkan kerangka kebijakan, batasan penggunaan, standar keamanan siber, serta mekanisme akuntabilitas atas seluruh teknologi AI yang diimplementasikan di instansi peradilan.
Menjaga Hakikat Tupoksi Hakim dan Koridor Keadilan
Pemaparan ini menjadi pengingat penting bagi para hakim agar bijak dan tidak mengalami ketergantungan (over-reliance) terhadap teknologi. Pemanfaatan AI harus dibatasi secara tegas dan tidak boleh menyentuh domain esensial yang menjadi kewenangan eksklusif (exclusively human domain) seorang Hakim, yaitu:
- Menilai keabsahan dan bobot alat bukti;
- Menguji kredibilitas saksi dan terdakwa;
- Menetapkan fakta-fakta hukum yang relevan;
- Menafsirkan serta menerapkan hukum secara kontekstual; hingga
- Menjatuhkan pertimbangan dan amar putusan.
Menyentuh ranah-ranah tersebut berarti melanggar hakikat dan tugas pokok dan fungsi (tupoksi) hakim. Keputusan hukum tidak boleh direduksi menjadi sekadar kalkulasi matematis atau analisis statistik algoritma. Melalui pemahaman atas batasan-batasan ini, diharapkan para hakim dapat memanfaatkan AI secara terukur—hanya sebagai alat bantu administratif dan riset pendukung—tanpa mengorbankan kearifan, kebijaksanaan, dan rasa keadilan yang murni lahir dari nurani seorang Hakim demi menghadirkan keadilan sejati bagi para pencari keadilan.
Untuk Mendapatkan Berita Terbaru Suara BSDK, Follow Channel WhatsApp: SUARABSDKMARI