Menjaga Independensi Hakim di Era AI: Batas Etika Penggunaan AI dalam Peradilan

Perkembangan Artificial Intelligence (AI), khususnya generative artificial intelligence, telah mengubah tatanan penyelenggaraan peradilan dengan memperluas pemanfaatan teknologi dari sekedar fungsi administratif menuju aktifitas yang berkaitan dengan penelitian hukum dan penalaran yudisial. Perkembangan tersebut menghadirkan peluang untuk meningkatkan efisiensi dan kualitas pelayanan peradilan, namun sekaligus menimbulkan persoalan mengenai batas etik dan hukum tentang penggunaannya dalam pelaksanaan kekuasaan kehakiman. Meskipun berbagai instrumen internasional, seperti UNESCO Guidelines for the Use of AI Systems in Courts and Tribunals (2025), European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems, dan European Union Artificial Intelligence Act, telah mengatur prinsip transparansi, akuntabilitas, human oversight, dan pelindungan hak fundamental manusia, instrumen-instrumen tersebut belum memberikan parameter normatif yang secara khusus menjelaskan batas penggunaan AI dalam proses penalaran hakim. Pengalaman berbagai negara memperlihatkan bahwa pengaturan AI yang hanya mengandalkan kode etik profesi atau kebijakan internal yang bersifat umum tidak lagi memadai untuk menghadapi kompleksitas generative AI. Oleh karena itu, tata kelola AI dalam peradilan memerlukan kerangka kelembagaan yang mampu mengintegrasikan prinsip etika, standar hukum, tata kelola teknologi, serta mekanisme akuntabilitas secara bersamaan. Artikel ini bertujuan menganalisis batas etik penggunaan AI dalam fungsi yudisial serta merumuskan kerangka normatif yang dapat menjadi dasar penyusunan pedoman penggunaan AI bagi hakim dan aparatur peradilan di Indonesia. Penelitian menggunakan metode yuridis normatif dengan pendekatan peraturan perundang-undangan, pendekatan konseptual, dan pendekatan komparatif melalui analisis terhadap instrumen hukum nasional, standar internasional, serta literatur mengenai independensi hakim dan tata kelola AI. Artikel ini ingin menunjukkan bahwa independensi hakim pada era AI tidak lagi cukup dimaknai sebagai kebebasan dari intervensi dalam definisi konvensional, tetapi juga mencakup pelindungan terhadap proses penalaran yang menghasilkan putusan pengadilan. Selain itu, artikel ini mengembangkan konsep Judicial Cognitive Sovereignty sebagai peluasan konseptual dari independensi hakim, mengusulkan Judicial AI Legitimacy Test sebagai instrumen untuk menilai legitimasi penggunaan AI dalam fungsi yudisial, serta merumuskan Principle of Non-Delegation of Judicial Reasoning sebagai batas normatif yang melarang pendelegasian substansial proses penilaian fakta, evaluasi alat bukti, interpretasi hukum, pembentukan pertimbangan hukum, dan pengambilan putusan dengan sistem AI. Selain itu, artikel ini menawarkan Judicial AI Governance Framework sebagai kerangka kebijakan bagi penyusunan pedoman penggunaan AI di lingkungan peradilan Indonesia. Dan AI dapat dimanfaatkan untuk memperkuat kualitas dan efisiensi peradilan sepanjang penggunaannya tetap menjamin independensi hakim, akuntabilitas, serta kedaulatan hakim atas proses penalaran yudisial.

Kata Kunci: Artificial Intelligence, independensi hakim, Judicial Cognitive Sovereignty, tata kelola AI, kekuasaan kehakiman, etika peradilan.

Baca Juga: Etika Profesi Hakim dan Semiotika Ketidak-adilan

I. Pendahuluan

Diskursus mengenai penggunaan Artificial Intelligence dalam badan peradilan tidak lagi memadai apabila hanya ditempatkan dalam pertanyaan biner: apakah AI boleh atau tidak boleh digunakan oleh hakim dan lembaga peradilan. Pendekatan semacam itu terlalu menyederhanakan persoalan, karena AI bukan merupakan teknologi dengan satu fungsi dan satu tingkat risiko. Penggunaan AI untuk melakukan transkripsi persidangan, menerjemahkan dokumen, melakukan anonimisasi putusan, atau membantu pencarian informasi hukum memiliki karakter yang secara fundamental berbeda dengan penggunaan AI untuk menilai alat bukti, menentukan kredibilitas saksi, menyusun ratio decidendi, atau merekomendasikan amar putusan. Karena itu, persoalan normatif yang lebih relevan bukan lagi sekadar whether AI should be used, melainkan for what purposes, to what extent, under what conditions, and subject to what safeguards AI may legitimately be used within the judicial process. Kerangka berpikir ini sejalan dengan premis artikel bahwa persoalan utama terletak pada tingkat keterlibatan AI dalam fungsi yudisial, bukan semata-mata pada keberadaan teknologinya.

Berangkat dari perspektif tersebut, pilihan kebijakan bagi badan peradilan tidak seharusnya bergerak antara dua ekstrem, yaitu menerima AI tanpa pembatasan atau melarangnya secara keseluruhan. Larangan total berpotensi mengabaikan manfaat nyata AI bagi efisiensi, akses terhadap informasi, kualitas administrasi, dan produktivitas peradilan. Sebaliknya, penggunaan tanpa batas dapat membuka ruang bagi terjadinya automation bias, ketergantungan kognitif, kesalahan faktual, hallucination, bias algoritmik, serta secara lebih fundamental mengaburkan siapa yang sesungguhnya melakukan proses penalaran yang menghasilkan putusan. Artikel ini sendiri menunjukkan bahwa AI telah berkembang dari sekadar administrative assistance menuju cognitive assistance: teknologi tidak lagi hanya membantu pengadilan bekerja lebih cepat, tetapi mulai berinteraksi dengan aktivitas intelektual seperti meringkas berkas, mengidentifikasi isu hukum, menemukan preseden, dan mengorganisasikan argumentasi.  Oleh sebab itu, semakin dekat penggunaan AI dengan inti fungsi mengadili, semakin ketat pula pembatasan yang harus diberlakukan.

Dengan demikian, pendekatan yang lebih proporsional adalah permissive but constrained: penggunaan AI tetap dimungkinkan, tetapi berada dalam koridor pembatasan yang ketat, terukur, dan berbeda menurut tingkat risikonya. Dalam fungsi administratif yang tidak menyentuh substansi adjudikasi, ruang penggunaan AI dapat diberikan relatif luas. Namun ketika AI mulai memasuki wilayah penelitian hukum dan bantuan analitis, penggunaannya harus tunduk pada standar yang jauh lebih ketat, antara lain kewajiban verifikasi terhadap sumber hukum primer, larangan memasukkan informasi perkara yang bersifat rahasia ke dalam sistem AI yang tidak aman, kemampuan hakim untuk memahami dan mengkritisi keluaran sistem, serta keharusan mempertahankan keputusan akhir sepenuhnya pada hakim. Dalam artikel ini, perbedaan tersebut telah dipetakan melalui Green Zone, Yellow Zone, dan Red Zone, dengan tujuan agar legitimasi penggunaan AI ditentukan menurut fungsi dan pengaruhnya terhadap proses yudisial, bukan semata-mata menurut nama atau kecanggihan teknologi yang digunakan.

Pembatasan yang ketat menjadi semakin penting karena konsep human oversight tidak boleh direduksi menjadi kehadiran manusia secara formal pada tahap akhir pengambilan keputusan. Hakim yang sekadar membaca, mengesahkan, atau menandatangani hasil analisis yang pada hakikatnya telah dibentuk oleh AI belum tentu dapat dikatakan mempertahankan kendali atas proses adjudikasi. Pengawasan manusia baru memiliki arti apabila hakim tetap mampu mempertanyakan, mengoreksi, mengubah, atau sepenuhnya menolak keluaran AI berdasarkan penalarannya sendiri. Dengan kata lain, yang harus dipertahankan bukan hanya keberadaan human in the loop, melainkan human intellectual control over the loop. Artikel ini menangkap persoalan tersebut melalui konsep Judicial Cognitive Sovereignty, yaitu kedaulatan hakim untuk menguasai, mengendalikan, dan mempertanggungjawabkan seluruh proses penalaran yang menghasilkan putusan, sekalipun AI digunakan sebagai alat bantu.

Atas dasar itu, batas penggunaan AI seharusnya dibangun berdasarkan prinsip bahwa semakin dekat AI dengan inti kewenangan mengadili, semakin sempit ruang penggunaannya dan semakin tinggi standar pengawasannya. Penggunaan AI untuk membantu menemukan putusan yang relevan masih dapat dibenarkan sepanjang hakim memeriksa sendiri sumber dan relevansinya. AI dapat pula digunakan untuk menghasilkan alternatif argumentasi sebagai bahan pengujian intelektual, tetapi argumentasi tersebut tidak boleh serta-merta menjadi pertimbangan hukum hakim. Bahkan penggunaan AI untuk membuat rancangan awal analisis sekalipun harus dinilai secara hati-hati apabila struktur tersebut kemudian membentuk anchoring effect yang membuat hakim secara tidak sadar mengikuti arah analisis mesin. Pada titik ketika AI mulai menentukan fakta mana yang dipercaya, alat bukti mana yang memiliki bobot lebih tinggi, bagaimana suatu norma harus ditafsirkan, atau pihak mana yang seharusnya dimenangkan, teknologi tersebut tidak lagi sekadar membantu hakim, tetapi telah memasuki wilayah kewenangan yudisial itu sendiri.

Di sinilah diperlukan garis batas normatif yang tegas antara AI as decision support dan AI as decision maker. AI dapat memperluas kapasitas hakim dalam memperoleh, mengorganisasikan, dan menguji informasi, tetapi tidak boleh memiliki otoritas untuk menentukan kebenaran yudisial. Fungsi-fungsi yang membentuk esensi adjudikasi—penilaian fakta, evaluasi alat bukti, interpretasi hukum, pembentukan ratio decidendi, pembentukan keyakinan hakim, dan penjatuhan putusan—harus tetap merupakan aktivitas yang secara substantif dilakukan oleh hakim. Prinsip tersebut telah dirumuskan dalam artikel melalui Principle of Non-Delegation of Judicial Reasoning: hakim dapat menggunakan AI untuk mendukung administrasi dan penelitian hukum, tetapi tidak boleh mendelegasikan penilaian fakta, evaluasi alat bukti, interpretasi hukum, pembentukan pertimbangan, maupun pengambilan keputusan kepada sistem AI.

Karena itu, regulasi mengenai AI di lingkungan peradilan sebaiknya tidak dibangun dalam bentuk daftar sederhana mengenai aplikasi yang “boleh” dan “dilarang”. Teknologi akan berubah terlalu cepat untuk pendekatan seperti itu. Yang diperlukan justru adalah functional and risk-based regulation, yaitu pengaturan berdasarkan fungsi yang dilakukan AI, kedekatannya dengan proses penalaran yudisial, dampaknya terhadap hak para pihak, kemampuan output-nya untuk diverifikasi, tingkat kendali manusia, keamanan data, serta kejelasan pertanggungjawaban. Suatu aplikasi yang pada hari ini digunakan hanya untuk administrasi dapat pada masa depan memiliki fitur analitis yang memengaruhi substansi perkara. Oleh sebab itu, pengaturan harus berorientasi pada what the system does to judicial reasoning, bukan hanya pada what the system is called.

Dalam konstruksi demikian, pembatasan ketat terhadap AI justru tidak identik dengan sikap anti-teknologi. Sebaliknya, pembatasan merupakan prasyarat agar inovasi dapat memperoleh legitimasi institusional. Semakin tinggi kepercayaan bahwa sistem AI digunakan secara terkendali, diverifikasi, dapat diaudit, aman terhadap data perkara, dan tidak mengambil alih fungsi hakim, semakin besar pula ruang bagi lembaga peradilan untuk memanfaatkan teknologi tersebut secara produktif. Karena itu, tata kelola AI yang baik tidak dimaksudkan untuk menjaga pengadilan tetap berada di luar perkembangan teknologi, tetapi untuk menentukan constitutional boundary between technological assistance and judicial authority. Artikel ini juga menegaskan bahwa tujuan fundamental pedoman AI bukan menghindarkan peradilan dari teknologi, melainkan memungkinkan pemanfaatannya secara aman, bertanggung jawab, dan selaras dengan prinsip negara hukum.

Pada akhirnya, pertanyaan yang harus dijawab oleh badan peradilan bukan lagi “bolehkah hakim menggunakan AI?”, melainkan “dalam kondisi apa penggunaan AI tetap mempertahankan hakim sebagai subjek yang berpikir, menilai, memutus, dan bertanggung jawab?” Jawaban terhadap pertanyaan tersebut membuka ruang bagi paradigma yang lebih matang: AI dapat digunakan, bahkan dalam batas tertentu dapat menjadi instrumen penting untuk meningkatkan kualitas peradilan, tetapi penggunaannya harus berhenti tepat sebelum teknologi mulai menggantikan proses penilaian normatif yang secara konstitusional dipercayakan kepada hakim. Dengan paradigma ini, modernisasi peradilan tidak diukur dari seberapa banyak fungsi manusia yang dapat dialihkan kepada mesin, melainkan dari kemampuan badan peradilan memanfaatkan kecanggihan teknologi tanpa kehilangan kendali atas fungsi yang menjadikan peradilan itu sendiri sah dan legitimate: penalaran serta keputusan yudisial yang tetap berasal dari hakim.

Tahun 2025 dapat dipandang sebagai titik balik penting dalam sejarah modern kekuasaan kehakiman. Untuk pertama kalinya, United Nations Educational, Scientific and Cultural Organization (UNESCO) menerbitkan Guidelines for the Use of AI Systems in Courts and Tribunals, sebuah pedoman global yang secara khusus mengatur penggunaan Artificial Intelligence (AI) dalam badan peradilan. Publikasi ini menandai perubahan mendasar dalam cara komunitas internasional memandang hubungan antara teknologi dan fungsi kehakiman. Jika sebelumnya AI lebih banyak diposisikan sebagai inovasi untuk meningkatkan efisiensi administrasi peradilan, UNESCO menegaskan bahwa perkembangan AI telah memasuki wilayah yang jauh lebih fundamental, yaitu proses penalaran hukum dan pengambilan keputusan yudisial. Karena itu, tantangan utama yang dihadapi pengadilan saat ini bukan lagi apakah AI dapat digunakan, melainkan bagaimana memastikan bahwa pemanfaatannya tetap berada dalam batas-batas yang menjaga independensi hakim, rule of law, dan hak fundamental manusia.

Perkembangan Artificial Intelligence (AI) telah mengubah tatanan penyelenggaraan peradilan di berbagai negara. Jika pada awalnya teknologi digital hanya dimanfaatkan untuk meningkatkan efisiensi administrasi melalui electronic filing, case management systems, atau persidangan elektronik, kemunculan generative artificial intelligence berbasis large language models (LLMs) memperluas fungsi teknologi hingga memasuki pekerjaan yang sebelumnya dianggap sebagai ranah eksklusif penalaran manusia. AI kini mampu meringkas berkas perkara, mengidentifikasi isu hukum, membandingkan putusan, menyusun argumentasi, hingga memberikan rekomendasi terhadap persoalan hukum tertentu. Perkembangan ini membuka peluang besar untuk meningkatkan efisiensi, konsistensi, dan akses terhadap keadilan, namun di saat yang bersamaan memunculkan pertanyaan mendasar mengenai batas keterlibatan teknologi dalam pelaksanaan kekuasaan kehakiman.

Transformasi tersebut menunjukkan bahwa AI bukan lagi sekadar instrumen pendukung administrasi peradilan, melainkan mulai berinteraksi dengan proses pembentukan penalaran hukum. Berbeda dengan mesin pencari hukum atau basis data putusan yang hanya menyajikan informasi, generative AI mampu menghasilkan analisis, menyusun narasi, dan menawarkan alternatif argumentasi berdasarkan prompt pengguna. Kemampuan ini menjadikan AI berpotensi memengaruhi cara hakim memahami fakta, mengidentifikasi isu hukum, hingga membuat pertimbangan hukum. Dengan demikian, diskursus mengenai AI dalam peradilan tidak lagi semata-mata berkaitan dengan digitalisasi layanan publik, tetapi telah bergeser menjadi persoalan mengenai legitimasi penggunaan teknologi dalam proses adjudikasi.  

Sejumlah organisasi internasional telah merespons perkembangan tersebut melalui penyusunan prinsip-prinsip tata kelola AI di sektor peradilan. UNESCO menerbitkan Guidelines for the Use of AI Systems in Courts and Tribunals sebagai kerangka etik dan operasional global pertama yang secara khusus ditujukan bagi lembaga peradilan. Pedoman tersebut dibangun di atas lima belas prinsip universal, antara lain transparansi, akuntabilitas, pelindungan hak fundamental manusia, human oversight, dan tata kelola multipihak. UNESCO menegaskan bahwa AI harus diposisikan sebagai alat bantu (assistive tool), bukan pengganti (substitutive tool), sehingga penggunaan AI harus selalu berada di bawah kendali dan pengawasan penggunanya (meaningful human supervision).

Di tingkat regional, European Commission for the Efficiency of Justice (CEPEJ) juga mengembangkan European Ethical Charter on the Use of Artificial Intelligence in Judicial Systems and Their Environment. Piagam tersebut menegaskan lima prinsip utama, yaitu penghormatan terhadap hak-hak fundamental, non-diskriminasi, kualitas dan keamanan, transparansi serta keadilan (fairness), dan prinsip under user control, yang menempatkan penggunanya, termasuk hakim, sebagai pihak yang tetap mengendalikan penggunaan AI. Pendekatan ini memperlihatkan bahwa pengembangan AI dalam peradilan tidak diarahkan untuk menggantikan fungsi hakim, melainkan untuk mendukung kualitas dan efisiensi penyelenggaraan peradilan tanpa mengurangi independensi maupun hak-hak para pihak berperkara.

Meskipun demikian, sebagian besar literatur dan instrumen internasional masih berfokus pada prinsip-prinsip umum seperti transparansi, akuntabilitas, explainability, pelindungan data, dan human oversight. Pendekatan tersebut sangat penting sebagai fondasi tata kelola AI, tetapi belum sepenuhnya menjawab persoalan normatif yang dihadapi hakim dalam praktik sehari-hari. Misalnya, sampai sejauh mana hakim dapat menggunakan AI untuk meringkas berkas perkara? Apakah AI dapat dimanfaatkan untuk melakukan penelitian hukum atau menyusun kerangka pertimbangan? Pada titik mana bantuan teknologi berubah menjadi pengambilalihan fungsi penalaran yudisial? Pertanyaan-pertanyaan tersebut belum memperoleh jawaban yang bersifat teknis dalam berbagai pedoman yang ada.

Kesenjangan tersebut menjadi semakin penting karena karakter AI berbeda dengan teknologi informasi konvensional. Generative AI bekerja melalui model probabilistik yang dapat menghasilkan informasi yang tampak meyakinkan tetapi keliru (hallucination), bias, atau tidak memiliki dasar hukum yang benar. Selain itu, AI juga berpotensi menimbulkan automation bias, yaitu kecenderungan pengguna untuk memberikan bobot yang berlebihan terhadap rekomendasi sistem otomatis. Dalam konteks peradilan, persoalan tersebut tidak hanya berkaitan dengan akurasi informasi, tetapi juga menyentuh aspek legitimasi proses pengambilan keputusan yudisial. Oleh karena itu, tantangan utama penggunaan AI bukan hanya bagaimana mencegah kesalahan teknologi, melainkan bagaimana memastikan bahwa hakim tetap mempertahankan independensi intelektual dalam membentuk keyakinannya.  

Dari perspektif hukum tata negara dan hukum peradilan Indonesia, isu tersebut memiliki dimensi konstitusional. Pasal 24 ayat (1) Undang-Undang Dasar Negara Republik Indonesia Tahun 1945 menegaskan bahwa kekuasaan kehakiman merupakan kekuasaan yang merdeka untuk menyelenggarakan peradilan guna menegakkan hukum dan keadilan. Ketentuan tersebut kemudian dijabarkan dalam Undang-Undang Nomor 48 Tahun 2009 tentang Kekuasaan Kehakiman yang menempatkan independensi hakim sebagai salah satu prasyarat utama penyelenggaraan peradilan yang adil. Dengan demikian, setiap pemanfaatan AI dalam proses peradilan harus ditempatkan dalam kerangka pelindungan terhadap independensi kekuasaan kehakiman, bukan semata-mata sebagai inovasi teknologi.

Berangkat dari perkembangan tersebut, artikel ini berpendapat bahwa diskursus mengenai independensi hakim perlu diatur ulang. Selama ini, independensi hakim umumnya dipahami sebagai kebebasan dari intervensi pemerintah, tekanan politik, kepentingan ekonomi, media, maupun pihak-pihak yang berkepentingan terhadap hasil perkara. Namun pada era AI, pengaruh terhadap proses adjudikasi juga dapat muncul melalui algoritma yang menyaring informasi, menyusun argumentasi, atau memberikan rekomendasi hukum. Oleh karena itu, objek pelindungan independensi hakim perlu diperluas sehingga tidak hanya mencakup kebebasan institusional, tetapi juga kedaulatan hakim atas proses penalaran yang menghasilkan putusan.

Atas dasar itulah penulis ingin mengusulkan konsep Judicial Cognitive Sovereignty, yaitu kedaulatan hakim untuk menguasai, mengendalikan, dan mempertanggungjawabkan seluruh proses penalaran yang menghasilkan putusan pengadilan, meskipun dalam proses tersebut menggunakan bantuan Artificial Intelligence. Konsep ini tidak dimaksudkan menggantikan doktrin independensi hakim yang telah mapan, melainkan memperluas penerapannya dalam lingkungan algoritmik. Sebagai konsekuensinya, artikel ini juga mengusulkan Judicial AI Legitimacy Test sebagai kerangka normatif untuk menilai legitimasi penggunaan AI dalam fungsi yudisial, serta Principle of Non-Delegation of Judicial Reasoning yang menegaskan bahwa proses pembentukan penalaran yudisial tidak boleh didelegasikan secara substansial kepada sistem AI.

Penulisan artikel ini menggunakan penelitian hukum normatif (normative juridical research) dengan pendekatan peraturan perundang-undangan (statute approach), pendekatan konseptual (conceptual approach), dan pendekatan komparatif (comparative approach). Bahan hukum primer meliputi instrumen konstitusional Indonesia, peraturan perundang-undangan, serta instrumen internasional mengenai independensi peradilan dan tata kelola AI. Bahan hukum sekunder terdiri atas literatur mengenai independensi hakim, etika yudisial, tata kelola AI, dan penggunaan AI dalam sistem peradilan. Analisis dilakukan secara preskriptif untuk merumuskan batas normatif penggunaan AI yang tetap menjaga independensi kekuasaan kehakiman.

Dengan demikian, artikel ini tidak dimaksudkan untuk mengkritik penggunaan AI dalam peradilan ataupun merangkum UNESCO Guidelines saja. Akan tetapi membangun kerangka normatif yang dapat menjelaskan di mana batas etika penggunaan AI dalam proses mengadili dan bagaimana batas tersebut dapat diterjemahkan menjadi pedoman penggunaan AI bagi hakim dan aparatur peradilan Indonesia. Melalui pendekatan tersebut, artikel ini diharapkan memberikan kontribusi terhadap pengembangan diskursus mengenai hubungan antara Artificial Intelligence, independensi hakim, dan tata kelola kekuasaan kehakiman pada era digital.

II. Artificial Intelligence dan Transformasi Fungsi Peradilan

Digitalisasi Peradilan dan Evolusi Peran Teknologi

Pemanfaatan teknologi dalam lembaga peradilan bukanlah fenomena baru. Selama lebih dari dua dekade terakhir, banyak negara telah mengembangkan teknologi informasi untuk meningkatkan efisiensi administrasi melalui electronic filing, case management systems, electronic litigation, digitalisasi arsip, publikasi putusan secara daring, serta pemanfaatan sistem informasi perkara. Di Indonesia, transformasi tersebut tercermin dalam pengembangan e-Court, e-berpadu, smart majelis, Sistem Informasi Penelusuran Perkara (SIPP), dan berbagai inovasi digital Mahkamah Agung yang bertujuan meningkatkan akses terhadap keadilan, efisiensi administrasi, dan transparansi pelayanan peradilan.

Karakteristik utama dari digitalisasi generasi pertama tersebut adalah bahwa teknologi berfungsi sebagai infrastruktur administratif (administrative infrastructure). Sistem informasi membantu hakim dan aparatur mengelola data, mempercepat komunikasi, mengurangi penggunaan dokumen fisik, dan meningkatkan efisiensi proses administrasi, tetapi tidak ikut membentuk substansi penalaran hukum. Dengan kata lain, teknologi mempercepat proses kerja tanpa mengubah siapa yang melakukan proses berpikir.

Richard Susskind menyebut perkembangan tersebut sebagai bagian dari evolusi pelayanan hukum melalui pemanfaatan teknologi digital yang berorientasi pada peningkatan akses terhadap keadilan dan efisiensi kelembagaan. Namun, Susskind juga mengingatkan bahwa perkembangan teknologi tidak berhenti pada digitalisasi administrasi, melainkan bergerak menuju sistem yang mulai membantu aktifitas intelektual para profesional hukum, termasuk hakim dan advokat (Susskind, 2019). Perubahan inilah yang membedakan Artificial Intelligence dengan teknologi informasi konvensional.

Artificial Intelligence sebagai Teknologi Kognitif

Berbeda dengan sistem informasi tradisional yang hanya menyimpan atau menampilkan data, Artificial Intelligence dirancang untuk menghasilkan inferensi berdasarkan pola yang dipelajari dari data dalam jumlah besar. Organisation for Economic Co-operation and Development (OECD) mendefinisikan AI sebagai sistem berbasis mesin yang untuk tujuan tertentu mampu menghasilkan prediksi, rekomendasi, atau keputusan yang memengaruhi lingkungan nyata maupun virtual (OECD, 2019). Definisi serupa juga diadopsi dalam EU Artificial Intelligence Act, yang menempatkan AI sebagai sistem yang mampu menghasilkan output seperti prediksi, konten, rekomendasi, atau keputusan yang memengaruhi lingkungan tempat sistem tersebut beroperasi.

Perkembangan generative AI, khususnya melalui large language models (LLMs), memperluas kemampuan tersebut secara signifikan. AI tidak lagi sekadar melakukan klasifikasi atau prediksi, tetapi mampu menghasilkan teks baru, menyusun argumentasi, menerjemahkan dokumen, membuat ringkasan, hingga memberikan jawaban terhadap pertanyaan hukum dengan bahasa yang menyerupai penalaran manusia. UNESCO mengakui bahwa teknologi ini dapat dimanfaatkan untuk memperbaiki kualitas administrasi peradilan, membantu penelitian hukum awal, menyusun ringkasan, memperbaiki bahasa, maupun mendukung pengelolaan dokumen. Namun, UNESCO juga menegaskan bahwa kemampuan tersebut tidak boleh dipahami sebagai pengganti analisis hukum yang dilakukan oleh hakim.

Dengan demikian, Artificial Intelligence merupakan teknologi kognitif (cognitive technology). Teknologi ini tidak hanya mempercepat pekerjaan administratif, tetapi juga mulai berinteraksi dengan aktivitas intelektual manusia. Dalam konteks peradilan, perubahan tersebut memiliki konsekuensi yang jauh lebih besar dibandingkan digitalisasi administrasi biasa karena AI mulai memasuki wilayah yang secara tradisional menjadi inti fungsi kekuasaan kehakiman.

Pergeseran dari Administrative Assistance menuju Cognitive Assistance

Perubahan mendasar yang dibawa AI dapat dipahami melalui evolusi fungsi teknologi dalam lembaga peradilan. Pada tahap awal, teknologi digunakan untuk administrative assistance, yaitu membantu pekerjaan administratif seperti registrasi perkara, pengarsipan, penjadwalan sidang, atau pengelolaan dokumen. Pada tahap ini, teknologi tidak memengaruhi substansi proses adjudikasi. Namun ketika generative AI diperkenalkan pada tahap berikutnya, yaitu cognitive assistance. Dalam fungsi ini, AI mulai membantu aktivitas yang sebelumnya bergantung pada kemampuan intelektual manusia, seperti meringkas ribuan halaman dokumen, mengidentifikasi isu hukum, membandingkan putusan, mengorganisasikan argumentasi, maupun melakukan eksplorasi awal terhadap suatu persoalan hukum. UNESCO menerima bentuk penggunaan seperti ini sepanjang AI diposisikan sebagai alat bantu penelitian dan analisis awal, bukan sebagai pengganti penalaran hukum (qualified legal reasoning).

Perubahan dari administrative assistance menuju cognitive assistance merupakan titik balik yang sangat penting. Jika digitalisasi generasi pertama hanya mengubah cara pengadilan bekerja, maka AI mulai memengaruhi cara hakim berpikir. Oleh karena itu, persoalan hukum yang muncul tidak lagi terbatas pada efisiensi administrasi, tetapi telah bergeser menjadi persoalan legitimasi penggunaan teknologi dalam proses pembentukan penalaran yudisial. Salah satu karakteristik utama penalaran hukum adalah bahwa ia merupakan proses evaluatif yang melibatkan interpretasi norma, penilaian fakta, penimbangan alat bukti, dan penyusunan argumentasi yang dapat dipertanggungjawabkan. Giovanni Sartor menjelaskan bahwa penalaran hukum tidak sekadar menerapkan aturan secara mekanis, tetapi merupakan proses argumentatif yang memerlukan interpretasi, justifikasi, dan evaluasi terhadap berbagai kemungkinan hukum. Oleh karena itu, legal reasoning tidak dapat direduksi menjadi sekadar pencocokan pola (pattern matching).

Generative AI memang mampu menghasilkan argumentasi hukum yang tampak meyakinkan. Namun kemampuan tersebut dibangun melalui hubungan statistik antar kata dan pola bahasa, bukan melalui pemahaman normatif terhadap prinsip-prinsip hukum. Luciano Floridi juga mengingatkan bahwa AI memiliki kemampuan menghasilkan output yang sangat meyakinkan (persuasive output) tanpa memiliki pemahaman (understanding) ataupun tanggung jawab moral atas output tersebut. Karena itu, kualitas bahasa AI tidak dapat disamakan dengan kualitas penalaran hukum. Dalam konteks peradilan, perbedaan tersebut sangat penting. Hakim tidak hanya dituntut menghasilkan jawaban yang benar, tetapi juga harus mampu menjelaskan mengapa jawaban tersebut benar melalui argumentasi hukum yang dapat diuji oleh para pihak, pengadilan yang lebih tinggi, maupun masyarakat. Kewajiban memberikan alasan (duty to give reasons) merupakan bagian dari jaminan due process of law dan tidak dapat digantikan oleh output algoritmik yang proses internalnya tidak sepenuhnya dapat dijelaskan.

Artificial Intelligence dan Risiko terhadap Proses Adjudikasi

Literatur mengenai tata kelola AI secara konsisten mengidentifikasi bahwa penggunaan kecerdasan artifisial di sektor publik berpotensi menimbulkan berbagai risiko yang memerlukan mekanisme mitigasi dan akuntabilitas yang memadai tidak hanya berkaitan dengan kesalahan teknis, tetapi juga dengan perubahan hubungan antara manusia dan proses pengambilan keputusan. Cary Coglianese menekankan bahwa tantangan utama AI governance bukan sekadar mengendalikan teknologi, tetapi memastikan bahwa penggunaan AI tetap selaras dengan prinsip akuntabilitas publik, transparansi, dan legitimasi demokratis.

Dalam lingkungan peradilan, risiko tersebut menjadi lebih kompleks karena keputusan hakim secara langsung mempengaruhi hak-hak fundamental warga negara. UNESCO mengidentifikasi berbagai risiko penggunaan AI di pengadilan, antara lain hallucination, bias algoritmik, kurangnya transparansi, kesalahan faktual, pelanggaran kerahasiaan data, hingga kecenderungan pengguna untuk menerima hasil AI tanpa evaluasi kritis (automation bias). Oleh karena itu, UNESCO menegaskan bahwa setiap hasil AI harus diverifikasi secara independen sebelum digunakan dalam proses hukum.

Risiko tersebut menunjukkan bahwa penggunaan AI dalam peradilan tidak dapat dipandang hanya sebagai persoalan efisiensi. Semakin besar keterlibatan AI dalam proses penalaran hukum, semakin besar pula kebutuhan untuk menjaga independensi intelektual hakim sebagai pelaku kekuasaan kehakiman untuk mengadili sebuah perkara.

Artificial Intelligence telah menggeser fokus diskursus mengenai teknologi dalam peradilan. Persoalannya tidak lagi terbatas pada bagaimana teknologi meningkatkan efisiensi administrasi, melainkan bagaimana teknologi mempengaruhi proses pembentukan penalaran hukum. Dengan kata lain, AI telah mengubah objek yang harus dilindungi dalam konsep independensi hakim. Apabila pada era digitalisasi administrasi pelindungan diarahkan terhadap kebebasan hakim dari intervensi konvensional, maka pada era Artificial Intelligence pelindungan juga harus mencakup kemampuan hakim untuk mempertahankan kendali atas proses berpikir yang menghasilkan putusan. Pergeseran inilah yang menjadi dasar pembahasan pada bab berikutnya.

Oleh karena itu, sebelum menentukan batas etik penggunaan AI, terlebih dahulu perlu dijawab pertanyaan yang lebih mendasar: apa yang sesungguhnya harus dilindungi dari independensi hakim ketika Artificial Intelligence mulai memasuki ruang penalaran yudisial? Pertanyaan tersebut menjadi penting melalui pengembangan konsep Judicial Cognitive Sovereignty sebagai rekonstruksi normatif atas independensi hakim dalam era Artificial Intelligence.

III. Penyempurnaan Independensi Hakim di Era Artificial Intelligence: Menuju Judicial Cognitive Sovereignty

Dalam perspektif klasik, independensi hakim merupakan salah satu prinsip fundamental dalam negara hukum (rule of law) dan menjadi prasyarat bagi terwujudnya peradilan yang adil (fair trial). Tanpa independensi, proses peradilan akan kehilangan legitimasi karena putusan tidak lagi dipandang sebagai hasil penalaran hukum yang bebas, melainkan sebagai produk tekanan politik, ekonomi, ataupun kepentingan pihak tertentu. Oleh karena itu, hampir seluruh instrumen internasional mengenai kekuasaan kehakiman menempatkan independensi sebagai nilai konstitusional yang harus dijamin oleh negara. Basic Principles on the Independence of the Judiciary yang diadopsi oleh Perserikatan Bangsa-Bangsa pada tahun 1985 menegaskan bahwa setiap hakim berhak memutus perkara secara tidak memihak berdasarkan fakta dan hukum tanpa adanya pembatasan, pengaruh yang tidak semestinya, tekanan, ancaman, maupun campur tangan langsung ataupun tidak langsung dari pihak manapun. Prinsip tersebut kemudian dipertegas dalam Bangalore Principles of Judicial Conduct, yang menyatakan bahwa independensi bukan hanya hak prerogatif hakim, melainkan jaminan bagi masyarakat untuk memperoleh peradilan yang adil.

Dalam konteks Indonesia, prinsip tersebut memperoleh dasar konstitusional melalui Pasal 24 ayat (1) Undang-Undang Dasar Negara Republik Indonesia Tahun 1945 yang menyatakan bahwa kekuasaan kehakiman merupakan kekuasaan yang merdeka untuk menyelenggarakan peradilan guna menegakkan hukum dan keadilan. Ketentuan tersebut dijabarkan lebih lanjut dalam Undang-Undang Nomor 48 Tahun 2009 tentang Kekuasaan Kehakiman yang menempatkan independensi hakim sebagai salah satu fondasi penyelenggaraan peradilan yang bebas dan tidak memihak. Dari berbagai instrumen tersebut terlihat bahwa konsep independensi hakim dibangun atas dasar yang sama, yaitu bahwa ancaman terhadap kebebasan hakim berasal dari aktor manusia, baik dalam bentuk intervensi negara, tekanan politik, kepentingan ekonomi, tekanan publik, maupun hubungan kekuasaan di dalam organisasi peradilan. Konsep klasik ini sangat relevan ketika proses pembentukan penalaran hukum sepenuhnya berada dalam ruang kognitif hakim. Akan tetapi, perkembangan Artificial Intelligence memperlihatkan bahwa pengaruh terhadap proses adjudikasi tidak lagi selalu berasal dari manusia.

Kemajuan generative AI mengubah cara hakim berinteraksi dengan informasi hukum. Sistem AI mampu menghasilkan ringkasan perkara, menyusun alternatif argumentasi, mengidentifikasi preseden, bahkan memberikan jawaban atas pertanyaan hukum dengan bahasa yang menyerupai penalaran manusia. Kemampuan tersebut menjadikan AI bukan sekadar alat administrasi, tetapi teknologi yang mulai berinteraksi dengan proses berpikir hakim. UNESCO mengakui bahwa AI dapat memberikan manfaat nyata bagi efisiensi dan akses terhadap keadilan, namun secara tegas menekankan bahwa AI tidak boleh menggantikan analisis independen hakim terhadap fakta, hukum, maupun alat bukti. Dengan kata lain, dalam kerangka tata kelola AI, legitimasi penggunaannya mensyaratkan bahwa kendali, pengawasan, dan keputusan akhir tidak dialihkan kepada sistem AI, melainkan tetap berada pada manusia (meaningful human oversight).

Prinsip tersebut menunjukkan bahwa independensi hakim pada era AI menghadapi bentuk tantangan yang berbeda dibandingkan paradigma klasik. Ancaman terhadap independensi tidak lagi selalu berbentuk instruksi atau tekanan dari aktor eksternal. Pengaruh juga dapat muncul melalui algoritma yang menyaring informasi, menentukan urutan hasil pencarian, menyusun struktur argumentasi, atau merekomendasikan solusi tertentu. Dalam kondisi seperti itu, tidak terdapat intervensi yang tampak secara langsung, tetapi proses pembentukan pengetahuan hakim berpotensi dipengaruhi oleh sistem AI.

Mireille Hildebrandt (2020) mengingatkan bahwa penggunaan teknologi cerdas dalam sistem hukum dapat mengubah cara hukum dipahami dan diterapkan apabila manusia kehilangan kemampuan untuk menilai secara kritis yang dihasilkan oleh sistem. Senada dengan itu, Floridi dan Cowls (2019) menegaskan bahwa tata kelola AI harus menjaga human agency sehingga manusia tetap menjadi pihak yang bertanggungjawab atas keputusan yang diambil. Perspektif ini memperlihatkan bahwa independensi hakim pada era AI harus dipahami tidak hanya sebagai pelindungan terhadap intervensi eksternal, tetapi juga sebagai pelindungan terhadap ketergantungan yang berlebihan pada proses algoritmik.

Berangkat dari perkembangan tersebut, artikel ini mencoba untuk mengusulkan konsep Judicial Cognitive Sovereignty sebagai pengembangan konseptual atas doktrin independensi hakim. Yang dimaksud dengan Judicial Cognitive Sovereignty adalah:

Kedaulatan hakim untuk menguasai, mengendalikan, dan mempertanggungjawabkan seluruh proses penalaran yang menghasilkan putusan pengadilan, meskipun dalam proses tersebut digunakan bantuan Artificial Intelligence

Konsep ini tidak mengubah makna independensi hakim sebagaimana telah dikenal dalam hukum tata negara dan hukum acara. Sebaliknya, ia memperluas objek pelindungan independensi sehingga mencakup proses pembentukan pengetahuan hukum (legal cognition) yang mendasari putusan. Dengan demikian, independensi hakim tidak lagi hanya dipahami sebagai kebebasan dari intervensi eksternal, tetapi juga sebagai kemampuan mempertahankan penguasaan intelektual atas proses yang menghasilkan putusan. Pendefinisian ulang ini sejalan dengan karakter kekuasaan kehakiman yang menempatkan hakim sebagai satu-satunya pejabat yang memiliki legitimasi konstitusional untuk menilai fakta, menafsirkan hukum, dan menjatuhkan putusan.

Dalam artikel ini, penulis berpendapat bahwa Judicial Cognitive Sovereignty terdiri atas tiga unsur yang saling berkaitan. Pertama adalah Cognitive Control, hakim harus tetap mengendalikan arah proses penalaran. AI dapat menyediakan informasi atau alternatif analisis, tetapi tidak boleh menentukan bagaimana informasi tersebut dipahami dan digunakan dalam proses adjudikasi. Kedua, Cognitive Autonomy, hakim harus memiliki kebebasan intelektual untuk menerima, mengkritisi, mengubah, ataupun menolak rekomendasi AI berdasarkan penilaiannya sendiri. Prinsip ini merupakan manifestasi konkret dari meaningful human oversight sebagaimana ditekankan oleh UNESCO. Dan yang ketiga, Cognitive Accountability, hakim tetap bertanggung jawab penuh atas seluruh pertimbangan yang dituangkan dalam putusan. Tanggung jawab tersebut tidak dapat dialihkan kepada penyedia sistem AI maupun kepada teknologi yang digunakan. Oleh karena itu, setiap hasil AI yang digunakan dalam proses peradilan wajib diverifikasi dengan sumber hukum primer dan fakta yang tersedia. Ketiga unsur tersebut menunjukkan bahwa penggunaan AI hanya dapat dibenarkan apabila Artificial Intelligence memperluas kapasitas intelektual hakim dengan tanpa mengurangi otonomi penalarannya.

Literatur AI governance umumnya menggunakan istilah human oversight atau human-in-the-loop untuk menggambarkan pentingnya keterlibatan manusia dalam penggunaan AI. Pendekatan tersebut sangat penting sebagai prinsip umum tata kelola AI. Namun, dalam konteks kekuasaan kehakiman, istilah tersebut masih memerlukan elaborasi lebih lanjut. Keberadaan manusia dalam suatu proses tidak selalu menjamin bahwa manusia benar-benar mengendalikan proses tersebut. Seorang hakim dapat saja tetap menjadi penandatangan putusan, tetapi apabila struktur argumentasi, identifikasi isu hukum, dan evaluasi awal sepenuhnya dibentuk oleh AI tanpa proses penilaian kritis yang memadai, maka pengawasan manusia hanya bersifat formal.

Oleh karena itu, artikel ini berpendapat bahwa standar yang lebih tepat bagi kekuasaan kehakiman bukan sekadar human oversight, melainkan Judicial Cognitive Sovereignty, yaitu kondisi ketika hakim tetap menjadi pusat penalaran hukum dan AI hanya berfungsi sebagai instrumen pendukung. Dengan pendekatan ini, ukuran legitimasi penggunaan AI tidak lagi ditentukan oleh ada atau tidaknya keterlibatan manusia secara formal, tetapi oleh apakah proses pembentukan keyakinan hukum tetap berada dalam penguasaan intelektual hakim.

Konsep Judicial Cognitive Sovereignty ini memiliki implikasi langsung terhadap penentuan batas penggunaan AI dalam peradilan. Apabila yang harus dilindungi adalah kedaulatan hakim atas proses penalarannya, maka tidak semua bentuk penggunaan AI memiliki tingkat legitimasi yang sama. Oleh karena itu, diperlukan pengaturan yang mampu membedakan penggunaan AI yang hanya berfungsi sebagai decision support system dengan penggunaan AI yang telah bergeser menjadi decision-making system, sehingga kewenangan yudisial tetap berada pada hakim sebagai pengambil keputusan akhir. Atas dasar pemikiran tersebut, penulis ingin mengusulkan Judicial AI Legitimacy Test sebagai instrumen normatif untuk menentukan batas penggunaan AI dalam peradilan. Melalui instrumen tersebut, artikel ini berupaya menerjemahkan prinsip-prinsip umum mengenai independensi hakim dan tata kelola AI menjadi parameter operasional yang dapat digunakan dalam penyusunan pedoman penggunaan AI bagi hakim dan aparatur peradilan di Indonesia.

IV. Menentukan Batas Etik Penggunaan Artificial Intelligence dalam Peradilan: Membangun Judicial AI Legitimacy Test

Perdebatan mengenai penggunaan Artificial Intelligence (AI) dalam lembaga peradilan sering kali berkembang dalam dua kutub yang berlawanan. Di satu sisi, AI dipandang sebagai inovasi yang mampu meningkatkan efisiensi administrasi, mempercepat penelitian hukum, dan memperluas akses terhadap keadilan. Di sisi lain, AI dipandang sebagai ancaman terhadap independensi hakim karena berpotensi memengaruhi proses pengambilan keputusan yudisial. Kedua pendekatan tersebut pada dasarnya memposisikan AI sebagai sesuatu yang harus diterima atau ditolak secara keseluruhan. Pendekatan demikian menurut penulis kurang tepat. Persoalan utama bukan terletak pada keberadaan AI, melainkan pada tingkat keterlibatan AI dalam fungsi yudisial. Tidak semua penggunaan AI memiliki implikasi yang sama terhadap independensi hakim. Penggunaan AI untuk melakukan transkripsi persidangan tentu berbeda secara normatif dengan penggunaan AI untuk menyusun pertimbangan hukum atau mengevaluasi alat bukti. Oleh karena itu, yang diperlukan bukanlah pendekatan yang bersifat dikotomis—menerima atau melarang AI—melainkan suatu kerangka yang mampu menilai legitimasi setiap bentuk penggunaan AI berdasarkan fungsi yang dijalankannya.

Pendekatan tersebut sejalan dengan perkembangan tata kelola AI di tingkat internasional. UNESCO tidak melarang penggunaan AI dalam pengadilan, tetapi mengharuskan setiap organisasi peradilan menetapkan secara jelas penggunaan yang diperbolehkan, penggunaan yang dibatasi, serta penggunaan yang harus dilarang. Demikian pula, EU Artificial Intelligence Act mengadopsi pendekatan risk-based regulation, yaitu mengatur AI berdasarkan tingkat risiko terhadap hak-hak fundamental dan kepentingan publik (European Union, 2024). Pendekatan serupa juga tercermin dalam OECD AI Principles (2019) dan NIST AI Risk Management Framework (2023), yang menempatkan pengelolaan risiko sebagai dasar utama tata kelola AI.

Berangkat dari perkembangan tersebut, artikel ini berpendapat bahwa penggunaan AI dalam kekuasaan kehakiman memerlukan sebuah uji legitimasi normatif yang secara khusus dirancang berdasarkan karakter fungsi yudisial. Atas dasar itu, artikel ini mengusulkan Judicial AI Legitimacy Test sebagai kerangka evaluasi untuk menentukan apakah penggunaan AI masih sejalan dengan prinsip independensi hakim dan Judicial Cognitive Sovereignty.

Judicial AI Legitimacy Test merupakan konstruksi normatif yang diusulkan dalam artikel ini untuk mengevaluasi legitimasi penggunaan AI dalam fungsi yudisial. Berbeda dengan pendekatan yang hanya mengidentifikasi jenis teknologi atau aplikasi tertentu, kerangka ini berfokus pada fungsi AI, dampaknya terhadap hak para pihak, dan tingkat kendali hakim atas proses penalaran hukum.

Artikel ini mengusulkan lima parameter yang harus dipenuhi secara kumulatif sebelum AI digunakan dalam fungsi yang berkaitan dengan proses adjudikasi. Sebagai langkah awal, Function Proximity Test digunakan untuk menilai tingkat kedekatan fungsi AI dengan inti kewenangan yudisial. Parameter ini didasarkan pada asumsi bahwa semakin besar keterlibatan AI dalam fungsi-fungsi yang merupakan esensi dari aktivitas mengadili, semakin besar pula potensi risikonya terhadap independensi hakim. Risiko tersebut meningkat ketika AI digunakan untuk melakukan penilaian terhadap fakta, mengevaluasi alat bukti, menginterpretasikan norma hukum, menyusun ratio decidendi, hingga memengaruhi atau menentukan amar putusan. Oleh karena itu, tingkat kedekatan AI dengan fungsi-fungsi tersebut harus menjadi indikator utama dalam menentukan batas yang dapat diterima bagi pemanfaatan AI di lingkungan peradilan. Sebaliknya, AI yang hanya membantu administrasi, penerjemahan, anonimisasi putusan, atau pencarian dokumen memiliki tingkat risiko yang jauh lebih rendah karena tidak memasuki inti fungsi yudisial. Parameter ini berangkat dari prinsip bahwa legitimasi penggunaan AI ditentukan oleh kedekatannya dengan judicial reasoning, bukan oleh kecanggihan teknologinya.

Kedua, Rights Impact Test. Parameter kedua berfungsi untuk menilai sejauh mana penggunaan AI berpotensi mempengaruhi hak dan kepentingan hukum para pihak yang berperkara. Dalam praktik peradilan, setiap kesalahan yang dihasilkan oleh AI tidak memiliki tingkat konsekuensi yang sama. Kekeliruan AI dalam menjalankan fungsi administratif, seperti menyusun jadwal persidangan atau mengelola dokumen perkara, tentu berbeda secara mendasar dengan kesalahan yang memengaruhi penilaian terhadap alat bukti, penetapan hak asuh anak, pembatasan kebebasan seseorang, maupun penentuan hak atas kepemilikan. Semakin besar dampak penggunaan AI terhadap hak-hak fundamental para pihak, semakin tinggi pula risiko yang ditimbulkan terhadap pelindungan hak konstitusional dan prinsip due process of law. Pendekatan ini selaras dengan European Union AI Act, yang mengklasifikasikan penggunaan AI dalam sektor peradilan sebagai high-risk AI systems karena berpotensi memberikan dampak langsung terhadap hak-hak fundamental individu. Oleh sebab itu, setiap penggunaan AI yang berimplikasi pada hak konstitusional para pihak harus tunduk pada standar pengawasan, verifikasi, dan pengendalian yang lebih ketat dibandingkan penggunaan AI yang hanya mendukung fungsi administratif.

Ketiga, Verifiability Test. Parameter ketiga menitikberatkan pada kemampuan hakim untuk memverifikasi secara independen setiap output yang dihasilkan oleh AI. Keandalan suatu sistem AI dalam lingkungan peradilan tidak dapat diukur semata-mata dari kecanggihan teknologinya, tetapi juga dari sejauh mana proses dan hasil yang dihasilkannya dapat diperiksa, dipahami, serta diuji kembali melalui penalaran hukum. Mengingat sistem AI masih berpotensi menghasilkan informasi yang tidak akurat, bias, maupun hallucination, setiap rekomendasi yang diberikan harus selalu dikonfirmasi dengan sumber hukum primer, fakta persidangan, dan alat bukti yang sah. Dengan demikian, AI tidak boleh diposisikan sebagai otoritas yang menentukan kebenaran hukum, melainkan sebagai instrumen pendukung penelitian dan analisis yang seluruh keluarannya tetap memerlukan penilaian kritis dari hakim. Pendekatan ini sejalan dengan prinsip explainability yang dikembangkan oleh Organisation for Economic Co-Operation and Development (OECD) dan National Institute of Standards and Technology (NIST), yang menegaskan bahwa pengguna harus mampu memahami dasar logis dari setiap output yang dihasilkan sistem AI agar hasilnya dapat diverifikasi secara independen dan dipertanggungjawabkan.

Keempat, Human Control Test. Parameter keempat ini bertujuan memastikan bahwa kendali substantif atas keseluruhan proses pengambilan keputusan tetap berada pada hakim. Berbagai instrumen internasional memang mengakui pentingnya human oversight, namun konsep tersebut tidak cukup dipahami sebagai sekadar kehadiran manusia pada tahap akhir proses pengambilan keputusan. Dalam konteks kekuasaan kehakiman, pengawasan manusia hanya memiliki makna apabila hakim benar-benar mempertahankan kendali intelektual terhadap penggunaan AI. Hal ini mensyaratkan kemampuan hakim untuk memahami apa yang dihasilkan AI, menilai dasar argumentasi yang digunakan, melakukan koreksi atau perubahan apabila diperlukan, menolak rekomendasi yang dianggap tidak tepat, serta menjelaskan alasan penggunaan maupun penolakan terhadap rekomendasi tersebut. Apabila kemampuan tersebut berkurang karena ketergantungan yang berlebihan terhadap AI, maka fungsi pengawasan manusia menjadi bersifat formalitas semata. Dalam kondisi demikian, legitimasi penggunaan AI dalam proses peradilan ikut melemah meskipun putusan secara administratif masih ditandatangani oleh hakim.

Kelima, Accountability Test. Parameter terakhir menguji apakah penggunaan AI tetap mempertahankan kejelasan mengenai subjek yang bertanggung jawab atas setiap keputusan yang dihasilkan dalam proses peradilan. Akuntabilitas merupakan konsekuensi yang tidak terpisahkan dari independensi kekuasaan kehakiman, sehingga tanggung jawab hukum atas suatu putusan harus tetap melekat pada hakim sebagai pemegang kewenangan mengadili. Kehadiran AI tidak boleh mengaburkan atau mengalihkan tanggung jawab tersebut kepada penyedia teknologi maupun sistem AI itu sendiri. Sejalan dengan prinsip-prinsip tata kelola AI yang dikembangkan oleh OECD, UNESCO dan NIST, penggunaan AI dalam peradilan harus dirancang sedemikian rupa agar tidak menimbulkan accountability gap, yaitu keadaan ketika tidak dapat ditentukan pihak yang bertanggung jawab atas kesalahan yang terjadi. Oleh karena itu, setiap pemanfaatan AI hanya dapat dianggap memiliki legitimasi normatif apabila mekanisme pertanggungjawaban tetap jelas, transparan, dan sepenuhnya dapat ditelusuri kepada hakim sebagai pengambil keputusan akhir. Kelima parameter ini bukanlah lima syarat yang dapat berdiri sendiri, melainkan harus diterapkan secara kumulatif. Dengan demikian, akan benar-benar membangun sebuah instrumen uji normatif baru yang dapat digunakan sebagai kerangka evaluasi penggunaan AI dalam sebuah proses peradilan.

Kelima parameter tersebut membentuk suatu kerangka evaluasi yang bersifat integratif untuk menilai legitimasi penggunaan AI dalam proses peradilan. Namun, penerapan kelima parameter tersebut tidak selalu menghasilkan tingkat risiko yang sama pada setiap bentuk pemanfaatan AI. Tingkat kedekatan AI dengan fungsi mengadili, besarnya dampak terhadap hak para pihak, kemampuan hakim untuk memverifikasi keluaran AI, efektivitas kendali manusia, serta kejelasan mekanisme pertanggungjawaban akan berbeda sesuai dengan karakteristik penggunaan AI dalam praktik. Oleh karena itu, agar kerangka Judicial AI Legitimacy Test dapat dioperasionalkan secara lebih praktis, artikel ini mengelompokkan penggunaan AI dalam lingkungan peradilan ke dalam tiga zona risiko normatif, yaitu Green Zone, Yellow Zone, dan Red Zone. Klasifikasi ini tidak dimaksudkan untuk membedakan jenis teknologi AI, melainkan untuk menilai tingkat penerimaan terhadap cara AI digunakan dalam proses peradilan berdasarkan potensi pengaruhnya terhadap independensi hakim, integritas penalaran yudisial, dan pelindungan hak-hak para pencari keadilan.

Green Zone: AI sebagai Instrumen Peningkatan Efisiensi Peradilan

Berdasarkan kerangka Judicial AI Legitimacy Test, artikel ini mengusulkan klasifikasi penggunaan AI dalam lingkungan peradilan ke dalam tiga tingkat risiko normatif. Kategori pertama adalah Green Zone, yaitu penggunaan AI yang berada pada tingkat risiko paling rendah karena hanya berfungsi mendukung pelaksanaan tugas administratif dan teknis tanpa memasuki ranah penalaran yudisial. Dalam kategori ini, AI dimanfaatkan untuk membantu pelaksanaan fungsi-fungsi operasional, seperti melakukan transkripsi persidangan, menerjemahkan dokumen, menganonimkan identitas dalam putusan, memperbaiki tata bahasa, mengklasifikasikan dokumen, melakukan pencarian arsip, serta mengelola administrasi perkara. Seluruh fungsi tersebut berorientasi pada peningkatan efisiensi dan kualitas administrasi peradilan, tanpa memengaruhi proses penilaian fakta, penerapan hukum, maupun pengambilan putusan. Oleh karena itu, penggunaan AI dalam Green Zone tidak mengurangi Judicial Cognitive Sovereignty, karena hakim tetap memegang kendali penuh atas seluruh proses penalaran dan pengambilan keputusan. Pada tingkat ini, manfaat yang diperoleh berupa peningkatan efisiensi, konsistensi administratif, dan produktivitas lembaga peradilan secara signifikan lebih besar dibandingkan potensi risiko yang ditimbulkan.

Yellow Zone: AI sebagai Asisten Analitis bagi Hakim

Kategori kedua adalah Yellow Zone, yaitu penggunaan AI untuk mendukung aktivitas intelektual hakim tanpa mengambil alih kewenangan substantif dalam melakukan penalaran hukum. Berbeda dengan Green Zone yang hanya berkaitan dengan fungsi administratif, AI dalam kategori ini mulai berinteraksi dengan proses analisis hukum melalui berbagai bentuk bantuan, seperti meringkas berkas perkara, mengidentifikasi isu hukum yang relevan, menemukan preseden dan peraturan perundang-undangan yang berkaitan, menyusun daftar referensi hukum, maupun menguji konsistensi logis suatu argumentasi. Meskipun demikian, seluruh output AI pada tahap ini tetap bersifat rekomendatif dan tidak memiliki kekuatan menentukan hasil perkara. Oleh karena itu, penggunaannya hanya dapat dibenarkan apabila seluruh parameter dalam Judicial AI Legitimacy Test terpenuhi, khususnya kemampuan hakim untuk memverifikasi secara independen setiap keluaran AI serta mempertahankan kendali penuh terhadap keseluruhan proses penalaran yudisial. Dalam kerangka ini, AI diposisikan sebagai critical assistant yang berfungsi memperluas akses terhadap informasi dan memperkaya perspektif analitis hakim, bukan sebagai decision maker yang membentuk keyakinan hukum atau menentukan substansi putusan.

Red Zone: Ketika AI Mengambil Alih Fungsi Inti Kekuasaan Kehakiman

Kategori terakhir adalah Red Zone, yaitu bentuk penggunaan AI yang telah melampaui fungsi pendukung dan secara substansial memasuki inti kewenangan mengadili yang secara konstitusional melekat pada hakim. Pada kategori ini, AI tidak lagi sekadar membantu proses analisis, melainkan mulai memengaruhi atau bahkan menentukan hasil pemeriksaan perkara. Bentuk penggunaannya antara lain meliputi penentuan pihak yang dimenangkan, penilaian otomatis terhadap kredibilitas saksi, evaluasi alat bukti sebagai dasar putusan, penentuan terpenuhi atau tidaknya unsur tindak pidana, penyusunan ratio decidendi tanpa evaluasi independen oleh hakim, perumusan amar putusan, hingga praktik automated adjudication yang menghasilkan putusan secara otomatis. Penggunaan AI dalam ruang lingkup tersebut secara langsung menggeser fungsi intelektual dan konstitusional hakim sebagai pelaksana kekuasaan kehakiman. Akibatnya, Judicial Cognitive Sovereignty tidak lagi berada pada hakim, melainkan berpotensi berpindah kepada sistem algoritmik yang tidak memiliki legitimasi konstitusional maupun akuntabilitas hukum. Oleh karena itu, artikel ini berpendapat bahwa penggunaan AI dalam Red Zone pada prinsipnya tidak dapat dibenarkan karena bertentangan dengan asas independensi kekuasaan kehakiman, prinsip human oversight, serta doktrin non-delegation of judicial reasoning, yang menghendaki agar proses penalaran hukum dan pengambilan putusan tetap menjadi tanggung jawab eksklusif hakim sebagai subjek yang menjalankan fungsi yudisial.

UNESCO maupun European Commission for the Efficiency of Justice (CEPEJ) menegaskan bahwa penggunaan AI tidak boleh menggantikan fungsi pengambilan keputusan oleh hakim. Dalam konteks artikel ini, larangan tersebut memperoleh dasar normatif yang lebih spesifik karena pada titik tersebut telah terjadi delegasi penalaran yudisial (delegation of judicial reasoning) yang bertentangan dengan prinsip independensi hakim.

Sebagai konsekuensi dari konsep Judicial Cognitive Sovereignty dan Judicial AI Legitimacy Test, artikel ini mengusulkan satu prinsip normatif baru, yaitu Principle of Non-Delegation of Judicial Reasoning. Prinsip tersebut dapat dirumuskan sebagai berikut: Hakim dapat menggunakan Artificial Intelligence untuk mendukung administrasi peradilan dan penelitian hukum, tetapi tidak boleh mendelegasikan proses penilaian fakta, evaluasi alat bukti, interpretasi hukum, pembentukan pertimbangan hukum, maupun pengambilan keputusan kepada sistem Artificial Intelligence. Prinsip ini tidak dimaksudkan untuk membatasi inovasi teknologi, melainkan menjaga batas konstitusional antara alat bantu dan pemegang kewenangan mengadili. Dengan demikian, AI tetap dapat dimanfaatkan untuk meningkatkan kualitas dan efisiensi peradilan, tetapi tidak boleh menggeser fungsi yang secara hukum hanya dapat dijalankan oleh hakim.

V. Blueprint Pedoman Penggunaan Artificial Intelligence bagi Hakim dan Aparatur Peradilan Indonesia

Dari prinsip etika menuju tata kelola peradilan berbasis Artificial Intelligence, perkembangan Artificial Intelligence (AI) dalam lembaga peradilan menunjukkan bahwa persoalan utama tidak lagi terletak pada apakah teknologi tersebut boleh digunakan, melainkan bagaimana memastikan penggunaannya tetap sejalan dengan prinsip negara hukum, independensi hakim, dan pelindungan hak fundamental manusia. Pengalaman berbagai negara memperlihatkan bahwa pengaturan AI yang hanya mengandalkan kode etik profesi atau kebijakan internal yang bersifat umum tidak lagi memadai untuk menghadapi kompleksitas generative AI. Oleh karena itu, tata kelola AI dalam peradilan memerlukan kerangka kelembagaan yang mampu mengintegrasikan prinsip etika, standar hukum, tata kelola teknologi, serta mekanisme akuntabilitas secara bersamaan.  

UNESCO melalui Guidelines for the Use of AI Systems in Courts and Tribunals menekankan bahwa setiap lembaga peradilan yang mengadopsi AI perlu memiliki kebijakan yang mengatur ruang lingkup penggunaan AI, pembagian tanggung jawab, pengelolaan risiko, pelindungan data, mekanisme pengawasan, serta peningkatan kapasitas pengguna.   Pendekatan yang sama juga dikembangkan oleh CEPEJ melalui Guidelines on the Use of Generative AI for Courts yang menekankan pentingnya judicial independence, effective human oversight, traceability, serta penggunaan solusi AI yang berada di bawah kendali lembaga peradilan.  

Dalam konteks Indonesia, kebutuhan tersebut menjadi semakin mendesak karena digitalisasi peradilan telah berkembang secara progresif melalui e-Court, e-berpadu, smart majelis, Sistem Informasi Penelusuran Perkara (SIPP), serta berbagai inovasi digital lainnya. Perkembangan tersebut menunjukkan bahwa integrasi AI ke dalam proses administrasi maupun penelitian hukum merupakan perkembangan yang hampir tidak dapat dihindari. Namun hingga saat ini belum terdapat pedoman yang secara khusus mengatur batas penggunaan AI oleh hakim maupun aparatur peradilan. Kekosongan norma tersebut berpotensi menimbulkan praktik yang tidak seragam, meningkatkan risiko pelanggaran kerahasiaan perkara, serta membuka ruang terjadinya ketergantungan terhadap AI tanpa mekanisme pengawasan yang memadai.

Berangkat dari kondisi tersebut, artikel ini mengusulkan suatu Blueprint Pedoman Penggunaan Artificial Intelligence bagi Hakim dan Aparatur Peradilan Indonesia yang dibangun di atas tiga konstruksi normatif yang telah dikembangkan sebelumnya, yaitu Judicial Cognitive Sovereignty, Judicial AI Legitimacy Test, dan Principle of Non-Delegation of Judicial Reasoning.

Prinsip-Prinsip Dasar Pedoman

Menurut artikel ini, pedoman nasional tidak seharusnya dimulai dari daftar larangan, melainkan dari prinsip-prinsip dasar yang menjadi landasan seluruh pengaturan. Prinsip-prinsip tersebut disusun melalui sintesis antara UNESCO Guidelines, CEPEJ Ethical Charter, OECD AI Principles, NIST AI Risk Management Framework, serta doktrin independensi hakim dalam hukum nasional dan internasional.

(1) Principle of Human Judicial Primacy

Kewenangan mengadili merupakan kewenangan konstitusional yang hanya dapat dijalankan oleh hakim. AI tidak memiliki kapasitas hukum untuk menggantikan fungsi tersebut dan hanya dapat digunakan sebagai instrumen pendukung.

(2) Principle of Judicial Cognitive Sovereignty

Hakim wajib mempertahankan penguasaan penuh terhadap proses penalaran yang menghasilkan putusan. AI boleh membantu memperoleh informasi, tetapi tidak boleh mengambil alih proses pembentukan keyakinan hukum.

(3) Principle of Non-Delegation of Judicial Reasoning

Proses penilaian fakta, evaluasi alat bukti, interpretasi hukum, penyusunan pertimbangan hukum, serta penentuan amar putusan tidak boleh didelegasikan kepada AI. Prinsip ini merupakan batas normatif utama yang diusulkan dalam artikel ini.

(4) Principle of Risk-Based AI Governance

Setiap penggunaan AI harus dievaluasi berdasarkan tingkat risikonya terhadap independensi hakim, hak para pihak, dan integritas proses peradilan. Pendekatan ini selaras dengan kerangka risk-based regulation dalam EU AI Act.  

(5) Principle of Verifiable Legal Reasoning

Tidak satu pun pertimbangan hukum boleh didasarkan pada keluaran AI yang tidak dapat diverifikasi terhadap sumber hukum primer maupun fakta persidangan.

(6) Principle of Human Accountability

Penggunaan AI tidak mengurangi tanggung jawab hakim atas putusan yang dijatuhkan. Seluruh konsekuensi hukum tetap melekat pada hakim sebagai pemegang kekuasaan kehakiman.

(7) Principle of Confidentiality and Data Protection

Penggunaan AI harus menjamin kerahasiaan perkara, keamanan informasi, dan pelindungan data pribadi sesuai prinsip pelindungan data dan keamanan informasi. Penggunaan layanan AI publik terhadap data perkara yang bersifat rahasia harus dibatasi secara ketat.  

(8) Principle of Transparency and Auditability

Penggunaan AI yang berpengaruh terhadap proses penyelesaian perkara harus dapat ditelusuri (traceable) dan diaudit apabila diperlukan. Transparansi diarahkan untuk menjamin akuntabilitas kelembagaan tanpa mengurangi independensi hakim.

(9) Principle of AI Competence

Hakim dan aparatur peradilan perlu memperoleh pelatihan mengenai kemampuan, keterbatasan, risiko, bias, dan teknik verifikasi AI sebelum menggunakan teknologi tersebut dalam pelaksanaan tugas.

(10) Principle of Continuous Governance

Pedoman AI harus diperlakukan sebagai living instrument, yaitu kebijakan yang dievaluasi secara berkala sesuai perkembangan teknologi, praktik peradilan, dan standar internasional.

Struktur Pedoman Penggunaan AI

Kerangka normatif yang telah penulis uraikan pada bagian sebelumnya menunjukkan bahwa penggunaan AI dalam lingkungan peradilan tidak cukup diatur melalui prinsip-prinsip etika yang bersifat umum. Diperlukan suatu instrumen regulatif yang mampu menerjemahkan prinsip-prinsip tersebut ke dalam standar operasional yang memberikan kepastian bagi hakim, aparatur peradilan, maupun pengembang teknologi. Mengingat perkembangan AI berlangsung sangat cepat dan karakteristik risikonya terus berubah, pengaturan tersebut juga tidak dapat dirancang sebagai norma yang bersifat statis. Sebaliknya, pedoman penggunaan AI harus dibangun sebagai suatu living instrument yang adaptif, responsif terhadap perkembangan teknologi, praktik peradilan, serta dinamika standar internasional, sehingga tetap relevan dalam menjaga keseimbangan antara inovasi teknologi, independensi kekuasaan kehakiman, dan perlindungan hak-hak para pencari keadilan. Berdasarkan pertimbangan tersebut, artikel ini selanjutnya mengusulkan struktur Pedoman Nasional Penggunaan AI di Lingkungan Peradilan sebagai kerangka implementasi dari prinsip-prinsip normatif yang telah dikembangkan.

Agar dapat diterapkan secara efektif, artikel ini mengusulkan agar pedoman nasional disusun dalam tujuh bagian utama.

-       Bab I memuat ketentuan umum, ruang lingkup, asas, tujuan, serta definisi AI.

-       Bab II mengatur klasifikasi penggunaan AI berdasarkan Green Zone, Yellow Zone, dan Red Zone sebagaimana dikembangkan dalam artikel ini.

-       Bab III mengatur penggunaan AI oleh hakim, termasuk jenis penggunaan yang diperbolehkan, penggunaan yang memerlukan verifikasi tambahan, dan penggunaan yang dilarang.

-       Bab IV mengatur penggunaan AI oleh aparatur peradilan sesuai karakteristik tugas administratif, kepaniteraan, kesekretariatan, pelayanan publik, dan hubungan masyarakat.

-       Bab V mengatur pelindungan data, keamanan informasi, klasifikasi data perkara, serta penggunaan AI berbasis komputasi awan (cloud computing).

-       Bab VI mengatur mekanisme akuntabilitas, dokumentasi penggunaan AI, audit, serta pelaporan insiden.

-       Bab VII mengatur pendidikan, sertifikasi, evaluasi berkala, serta mekanisme pembaruan pedoman.

Dengan struktur tersebut, pedoman tidak hanya berfungsi sebagai kode etik yang memberikan arah mengenai nilai-nilai dan prinsip penggunaan AI oleh hakim, tetapi juga sebagai governance framework yang mengatur keseluruhan siklus pemanfaatan AI di lingkungan peradilan. Pedoman ini menjadi acuan dalam menetapkan batasan penggunaan AI, pembagian peran dan tanggung jawab para pemangku kepentingan, mekanisme pengawasan dan evaluasi, standar keamanan serta pelindungan data, hingga prosedur akuntabilitas apabila terjadi penyimpangan atau kesalahan dalam penggunaan AI. Dengan demikian, pedoman tersebut tidak hanya membentuk standar perilaku individual bagi hakim dan aparatur peradilan, melainkan juga membangun sistem pengelolaan AI yang terintegrasi pada tingkat kelembagaan. Keberadaan pedoman yang komprehensif akan memberikan kepastian mengenai ruang lingkup penggunaan AI yang diperbolehkan, memperkuat konsistensi implementasi di seluruh lingkungan peradilan, serta memastikan bahwa inovasi teknologi tetap berjalan selaras dengan prinsip independensi kekuasaan kehakiman, pelindungan hak-hak para pencari keadilan, dan akuntabilitas publik terhadap penyelenggaraan peradilan.

Pembentukan Judicial AI Governance Board

Perlu ditegaskan bahwa Judicial AI Governance Board bukan merupakan lembaga yang menjalankan fungsi pengawasan terhadap pelaksanaan kekuasaan kehakiman ataupun mengevaluasi pertimbangan hukum yang dibuat oleh hakim dalam suatu perkara. Ruang lingkup kewenangannya terbatas pada aspek tata kelola pemanfaatan kecerdasan artifisial sebagai bagian dari kebijakan kelembagaan Mahkamah Agung. Dengan demikian, fokus utama badan ini adalah memastikan bahwa setiap sistem AI yang digunakan di lingkungan peradilan memenuhi standar keamanan, transparansi, akuntabilitas, pelindungan data, serta kesesuaian dengan prinsip-prinsip etik dan hukum yang berlaku. Dalam kerangka tersebut, Judicial AI Governance Board berperan sebagai mekanisme institutional AI governance yang mengelola risiko teknologi pada tingkat organisasi, bukan sebagai instrumen yang melakukan intervensi terhadap independensi hakim dalam menjalankan fungsi mengadili dan memutus perkara. Pemisahan fungsi tersebut penting untuk menjaga keseimbangan antara kebutuhan akan tata kelola teknologi yang efektif dengan prinsip independensi kekuasaan kehakiman yang merupakan salah satu pilar utama negara hukum. Dengan demikian, yang menjadi objek pengawasan bukanlah judicial decision, melainkan judicial technology governance. Selama AI diposisikan sebagai objek tata kelola kelembagaan dan bukan sebagai instrumen evaluasi terhadap substansi putusan, pembentukan Judicial AI Governance Board tidak bertentangan dengan prinsip independensi kekuasaan kehakiman, melainkan justru memperkuat akuntabilitas kelembagaan dalam pengelolaan teknologi.

Judicial AI Register

Sebagai bagian dari penguatan tata kelola AI di lingkungan peradilan, artikel ini juga mengusulkan pembentukan Judicial AI Register, yaitu daftar resmi yang memuat seluruh sistem kecerdasan artifisial yang telah dievaluasi dan dinyatakan layak untuk digunakan dalam lingkungan Mahkamah Agung dan badan peradilan di bawahnya. Register ini berfungsi sebagai mekanisme seleksi dan validasi kelembagaan sehingga setiap aplikasi AI yang digunakan telah melalui proses penilaian mengenai keamanan, keandalan, kepatuhan terhadap ketentuan hukum, serta kesesuaiannya dengan prinsip-prinsip etik peradilan. Setiap sistem AI yang tercantum dalam register sekurang-kurangnya memuat informasi mengenai nama sistem, fungsi utama yang dijalankan, klasifikasi tingkat risikonya, kategori data yang dapat diproses, hasil evaluasi keamanan dan kepatuhan, batasan ruang lingkup penggunaannya, serta tanggal pelaksanaan evaluasi terakhir. Keberadaan Judicial AI Register memberikan kepastian mengenai aplikasi AI yang dapat digunakan secara resmi oleh aparatur peradilan sekaligus menciptakan standar penggunaan yang seragam di seluruh lingkungan Mahkamah Agung. Dengan mekanisme tersebut, hakim tidak lagi dibebani untuk melakukan penilaian teknis maupun keamanan terhadap setiap aplikasi AI yang tersedia di pasar. Tanggung jawab untuk melakukan seleksi, pengujian, dan persetujuan awal berada pada tingkat kelembagaan melalui mekanisme tata kelola yang telah ditetapkan, sedangkan tanggung jawab hakim tetap terbatas pada penggunaan sistem AI yang telah terdaftar secara bertanggung jawab dalam proses pemeriksaan dan pengambilan keputusan pada perkara konkret. Pemisahan tanggung jawab tersebut sekaligus mempertegas perbedaan antara governance responsibility yang berada pada institusi dan adjudicative responsibility yang tetap melekat pada hakim sebagai pelaksana kekuasaan kehakiman.

Judicial AI Impact Assessment

Sebelum sistem AI diimplementasikan dalam lingkungan peradilan, artikel ini juga mengusulkan agar terlebih dahulu dilakukan Judicial AI Impact Assessment sebagai mekanisme evaluasi awal untuk mengidentifikasi, mengukur, dan memitigasi risiko yang mungkin timbul dari penggunaannya. Penilaian ini bertujuan memastikan bahwa setiap sistem AI yang akan diterapkan telah memenuhi standar hukum, etika, dan tata kelola yang diperlukan sebelum digunakan dalam proses peradilan. Ruang lingkup evaluasinya sekurang-kurangnya mencakup potensi dampak terhadap independensi hakim dalam menjalankan fungsi yudisial, pengaruhnya terhadap hak dan kepentingan hukum para pihak, tingkat keamanan dan kerahasiaan data yang diproses, transparansi serta keterjelasan cara kerja sistem, kemudahan bagi hakim untuk memverifikasi keluaran AI secara independen, potensi terjadinya bias algoritmik, serta kejelasan mekanisme akuntabilitas apabila penggunaan AI menimbulkan kesalahan atau kerugian. Hasil penilaian tersebut menjadi dasar bagi institusi untuk menentukan apakah suatu sistem AI layak digunakan, memerlukan pembatasan tertentu, atau justru tidak memenuhi persyaratan untuk diterapkan di lingkungan peradilan. Pendekatan ini selaras dengan perkembangan tata kelola AI di tingkat internasional yang menempatkan AI impact assessment sebagai instrumen utama dalam pengelolaan sistem AI berisiko tinggi, terutama pada sektor publik dan lembaga peradilan, karena memungkinkan identifikasi risiko dilakukan secara preventif sebelum teknologi tersebut memengaruhi proses pengambilan keputusan yang berdampak terhadap hak-hak fundamental masyarakat.

Menuju Responsible Judiciary in the Age of Artificial Intelligence

Pada akhirnya, tujuan fundamental penyusunan pedoman penggunaan AI di lingkungan peradilan bukanlah membatasi atau menghindarkan lembaga peradilan dari pemanfaatan teknologi, melainkan membangun suatu kerangka tata kelola yang memungkinkan AI dimanfaatkan secara aman, bertanggung jawab, dan selaras dengan prinsip-prinsip negara hukum. Berdasarkan keseluruhan analisis dalam artikel ini, penggunaan AI dalam lingkungan kekuasaan kehakiman semestinya dibangun di atas tiga pilar normatif yang saling melengkapi. Pilar pertama adalah Judicial Cognitive Sovereignty, yaitu perlindungan terhadap kedaulatan kognitif hakim sebagai perluasan dari prinsip independensi kekuasaan kehakiman di era kecerdasan artifisial, sehingga proses berpikir, penilaian hukum, dan pembentukan keyakinan hakim tetap berada di bawah kendali manusia. Pilar kedua adalah penerapan Judicial AI Legitimacy Test sebagai instrumen evaluasi normatif untuk menilai apakah suatu bentuk penggunaan AI masih berada dalam batas yang dapat diterima menurut prinsip independensi, akuntabilitas, dan perlindungan hak-hak para pihak. Pilar ketiga adalah Principle of Non-Delegation of Judicial Reasoning, yaitu prinsip yang menegaskan bahwa fungsi-fungsi inti kekuasaan kehakiman, termasuk menilai fakta, mengevaluasi alat bukti, menginterpretasikan norma hukum, membangun ratio decidendi, dan menjatuhkan putusan, tidak dapat dialihkan kepada sistem AI dalam keadaan apa pun. Ketiga pilar tersebut membentuk fondasi konseptual bagi tata kelola AI di lingkungan peradilan yang memungkinkan pemanfaatan teknologi untuk meningkatkan efisiensi administrasi, kualitas analisis, dan efektivitas pelayanan peradilan, tanpa mengurangi legitimasi konstitusional yang melekat pada hakim sebagai satu-satunya pelaksana kekuasaan kehakiman. Dengan demikian, keberhasilan modernisasi peradilan pada era AI tidak seharusnya diukur dari sejauh mana teknologi mampu menggantikan peran manusia, melainkan dari sejauh mana teknologi dapat memperkuat kualitas penyelenggaraan peradilan dengan tetap menjaga independensi, integritas, akuntabilitas, dan kepercayaan publik terhadap proses penegakan hukum. 

VI. Penutup

Perkembangan Artificial Intelligence (AI) telah membawa perubahan mendasar terhadap penyelenggaraan kekuasaan kehakiman. Jika pada tahap awal digitalisasi teknologi hanya berfungsi meningkatkan efisiensi administrasi peradilan melalui sistem informasi dan layanan elektronik, perkembangan generative AI telah memperluas fungsi teknologi hingga memasuki ruang yang selama ini menjadi inti kewenangan yudisial, yaitu proses memahami fakta, melakukan penelitian hukum, membangun argumentasi, dan menyusun pertimbangan hukum. Perubahan tersebut menghadirkan peluang besar untuk meningkatkan kualitas pelayanan peradilan, namun pada saat yang sama melahirkan tantangan baru terhadap independensi hakim, legitimasi putusan, pelindungan hak fundamental manusia, dan kepercayaan publik terhadap lembaga peradilan. UNESCO menegaskan bahwa AI harus diposisikan sebagai alat bantu (assistive tool) yang selalu berada di bawah meaningful human oversight, bukan sebagai pengganti hakim dalam menjalankan fungsi mengadili.  

Kajian ini menunjukkan bahwa kerangka etik internasional yang telah berkembang melalui UNESCO, CEPEJ, OECD, dan berbagai instrumen tata kelola AI telah memberikan fondasi penting bagi pemanfaatan AI dalam sistem peradilan. Namun demikian, sebagian besar instrumen tersebut masih berfokus pada prinsip-prinsip umum seperti transparansi, akuntabilitas, pelindungan hak fundamental manusia, keamanan data, dan human oversight. Instrumen tersebut belum sepenuhnya memberikan parameter normatif yang mampu menjawab pertanyaan mendasar mengenai batas keterlibatan AI dalam proses penalaran yudisial. Dengan demikian, masih terdapat ruang konseptual untuk mengembangkan kerangka hukum yang secara lebih spesifik menjelaskan hubungan antara penggunaan AI dan independensi hakim.  

Berangkat dari kesenjangan tersebut, artikel ini mengajukan tesis bahwa independensi hakim pada era Artificial Intelligence tidak lagi cukup dipahami sebagai kebebasan dari intervensi pemerintah, tekanan politik, maupun kepentingan pihak lain. Independensi hakim juga harus mencakup pelindungan terhadap proses penalaran hukum yang menghasilkan putusan pengadilan. Oleh karena itu, artikel ini mengembangkan konsep Judicial Cognitive Sovereignty, yaitu kedaulatan hakim untuk menguasai, mengendalikan, dan mempertanggungjawabkan seluruh proses penalaran yang menghasilkan putusan, meskipun dalam proses tersebut digunakan bantuan Artificial Intelligence. Konsep ini merupakan rekonstruksi konseptual terhadap doktrin independensi hakim agar tetap relevan dalam menghadapi perkembangan teknologi berbasis algoritma.

Sebagai konsekuensi dari konsep tersebut, artikel ini juga mengembangkan Judicial AI Legitimacy Test sebagai instrumen normatif untuk mengevaluasi legitimasi penggunaan AI dalam fungsi yudisial. Berbeda dengan pendekatan yang hanya membedakan AI berdasarkan jenis teknologinya, kerangka ini menilai legitimasi AI berdasarkan kedekatannya dengan fungsi mengadili, dampaknya terhadap hak para pihak, kemampuan hakim memverifikasi hasil AI, tingkat pengendalian manusia terhadap proses, serta kejelasan pertanggungjawaban hukum. Pendekatan tersebut menghasilkan klasifikasi penggunaan AI ke dalam Green Zone, Yellow Zone, dan Red Zone, sehingga memungkinkan penggunaan AI dilakukan secara proporsional sesuai tingkat risikonya terhadap independensi hakim dan integritas proses peradilan.

Artikel ini selanjutnya mengusulkan Principle of Non-Delegation of Judicial Reasoning sebagai batas normatif penggunaan AI dalam lingkungan peradilan. Prinsip tersebut menegaskan bahwa AI dapat digunakan untuk mendukung administrasi, penelitian hukum, maupun analisis pendahuluan, tetapi tidak boleh mengambil alih proses penilaian fakta, evaluasi alat bukti, interpretasi hukum, penyusunan pertimbangan hukum, ataupun penentuan amar putusan. Dengan demikian, yang dilarang bukanlah penggunaan Artificial Intelligence sebagai teknologi, melainkan delegasi substansial terhadap proses penalaran yudisial yang secara konstitusional hanya dapat dilakukan oleh hakim.

Berdasarkan keseluruhan analisis, artikel ini merekomendasikan agar Mahkamah Agung Republik Indonesia menyusun Pedoman Penggunaan Artificial Intelligence bagi Hakim dan Aparatur Peradilan yang dibangun di atas empat pilar utama. Pertama, pelindungan terhadap Judicial Cognitive Sovereignty sebagai perluasan konsep independensi hakim pada era digital. Kedua, penerapan Judicial AI Legitimacy Test sebagai mekanisme evaluasi terhadap setiap bentuk penggunaan AI dalam fungsi yudisial. Ketiga, penerapan Principle of Non-Delegation of Judicial Reasoning sebagai batas normatif penggunaan AI dalam proses mengadili. Keempat, pengembangan Judicial AI Governance Framework yang mencakup klasifikasi risiko penggunaan AI, pelindungan data dan kerahasiaan perkara, peningkatan kompetensi hakim, audit penggunaan AI, serta evaluasi berkala terhadap perkembangan teknologi. Pendekatan tersebut selaras dengan arah kebijakan UNESCO yang mendorong organisasi peradilan membangun tata kelola AI berbasis hak fundamental manusia, rule of law, transparansi, dan akuntabilitas kelembagaan.  

Pada akhirnya, artikel ini berpendapat bahwa masa depan peradilan tidak akan ditentukan oleh apakah pengadilan menggunakan Artificial Intelligence, melainkan oleh bagaimana teknologi tersebut digunakan dalam batas-batas yang tetap menghormati prinsip negara hukum dan independensi kekuasaan kehakiman. Artificial Intelligence dapat mempercepat penelitian hukum, meningkatkan efisiensi administrasi, dan memperluas akses terhadap keadilan. Namun legitimasi putusan pengadilan tidak pernah semata-mata ditentukan oleh kecepatan ataupun kecanggihan teknologi, melainkan oleh proses penalaran hukum yang dilakukan secara independen, imparsial, dan bertanggung jawab oleh hakim. Oleh karena itu, penggunaan AI dalam peradilan harus selalu diarahkan untuk memperkuat kapasitas hakim, bukan menggantikan fungsi konstitusionalnya. Dalam perspektif tersebut, modernisasi peradilan bukan berarti menyerahkan proses mengadili kepada algoritma, melainkan memastikan bahwa kemajuan teknologi tetap berada di bawah kendali manusia dan digunakan untuk memperkuat, bukan mengurangi, kualitas keadilan yang dihasilkan oleh lembaga peradilan. (ldr/wi)

 Referensi

Banks, I. (2026). Judges-in-the-loop? Judicial involvement in human oversight of high-risk decision support systems under the EU AI Act. International Journal of Law and Information Technology, 34, eaag001. https://doi.org/10.1093/ijlit/eaag001

European Commission for the Efficiency of Justice. (2018). European ethical charter on the use of artificial intelligence in judicial systems and their environment. Council of Europe.

European Commission for the Efficiency of Justice. (2025a). 1st report on the use of artificial intelligence (AI) in the judiciary, based on the information contained in the CEPEJ’s Resource Centre on Cyberjustice and AI. Council of Europe.

European Commission for the Efficiency of Justice. (2025b). Guidelines on the use of generative artificial intelligence for courts (CEPEJ(2025)18Final). Council of Europe.

European Parliament & Council of the European Union. (2024). Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024 laying down harmonised rules on artificial intelligence and amending Regulations (EC) No 300/2008, (EU) No 167/2013, (EU) No 168/2013, (EU) 2018/858, (EU) 2018/1139 and (EU) 2019/2144 and Directives 2014/90/EU, (EU) 2016/797 and (EU) 2020/1828 (Artificial Intelligence Act). Official Journal of the European Union, L 2024/1689.

Floridi, L., & Cowls, J. (2019). A unified framework of five principles for AI in society. Harvard Data Science Review, 1(1). https://doi.org/10.1162/99608f92.8cd550d1

Gutiérrez, J. D. (2025). Guidelines for the use of AI systems in courts and tribunals. UNESCO. https://doi.org/10.58338/LIEY8089

Hildebrandt, M. (2020). Law for computer scientists and other folk. Oxford University Press. https://doi.org/10.1093/oso/9780198860877.001.0001

Judicial Group on Strengthening Judicial Integrity. (2002). The Bangalore principles of judicial conduct.

Judicial Integrity Group. (2010). Measures for the effective implementation of the Bangalore principles of judicial conduct.

Organisation for Economic Co-operation and Development. (2024). Recommendation of the Council on artificial intelligence (OECD/LEGAL/0449).

Sartor, G. (2005). Legal reasoning: A cognitive approach to the law. Springer. https://doi.org/10.1007/1-4020-3505-5

Sourdin, T. (2018). Judge v robot? Artificial intelligence and judicial decision-making. University of New South Wales Law Journal, 41(4), 1114–1133. https://doi.org/10.53637/ZGUX2213

Susskind, R. (2019). Online courts and the future of justice. Oxford University Press. https://doi.org/10.1093/oso/9780198838364.001.0001

Tabassi, E. (2023). Artificial intelligence risk management framework (AI RMF 1.0) (NIST AI 100-1). National Institute of Standards and Technology. https://doi.org/10.6028/NIST.AI.100-1

United Nations. (1985). Basic principles on the independence of the judiciary.

Undang-Undang Dasar Negara Republik Indonesia Tahun 1945.

Undang-Undang Republik Indonesia Nomor 48 Tahun 2009 tentang Kekuasaan Kehakiman.

Undang-Undang Republik Indonesia Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi.

Baca Juga: Redefinisi Etika dan Kebenaran Era Digital: Implikasi Terhadap Kepercayaan Publik

Untuk Mendapatkan Berita Terbaru Dandapala Follow Channel WhatsApp : Info Badilum MA RI