Teknologi artificial intelligence terbagi menjadi dua model yakni autonomous system dan autonomous machine. Autonomous machine merupakan bentuk AI yang dapat bertindak tanpa bantuan manusia seperti robot autonom yang digunakan dalam industri alat elektronik, dan autonomous system berupa AI tools yang diperintahkan oleh manusia seperti halnya platform Chatgpt, Gemini, serta teknologi seperti deepfake.
Deepfake merupakan sebuah teknologi yang menggunakan AI untuk memproduksi, mengedit foto, suara, video menggunakan data biometrik seseorang sehingga hasilnya mampu menyamai bentuk aslinya.
Apa itu Deepfake
serta Pro dan Kontra Pemanfaatannya
Baca Juga: Keadilan di Era Digital Nurani di Tengah Kemajuan Teknologi
Deepfake secara etimologi berasal dari bahasa inggris yaitu “deep learning” dan kata “fake”. Deep learning merupakan sebuah teknologi AI yang melahirkan software untuk menciptakan suatu karya, sedangkan “fake” merujuk kepada hasil berupa media palsu sehingga hasil karya yang diproduksi maupun yang diolah tidak bersifat orisinal.
Hasil karya yang dibuat oleh deepfake bisa berupa video maupun gambar seseorang yang digunakan untuk mengganti video aslinya, bisa saja aktris seperti Jackie Chan yang tengah memainkan adegan suatu film aksi digantikan dengan aktor lain sehingga seolah-olah aktor lain itu tengah memainkan film laga. Atau seperti halnya Mantan Presiden Joko Widodo yang tengah berpidato menggunakan bahasa mandarin padahal bukan beliau yang tengah berpidato menggunakan bahasa mandarin. (1)
Adanya teknologi deepfake membawa manfaat bagi segelintir orang khususnya bagi mereka yang hidup dari industri hiburan, kehadiran deepfake dapat membawa berkah bagi seorang content creator karena mereka bisa menghasilkan uang melalui media sosial seperti Instagram, TikTok, maupun Youtube, dengan mengunggah video olahannya dari hasil deepfake sehingga mendapatkan adsense yang nantinya dapat dikonversi menjadi keuntungan karena dianggap menarik dan menghibur netizen.
Namun adanya teknologi deepfake juga membawa hal buruk, khususnya bagi pihak yang foto wajah maupun suara yang digunakan dalam video tersebut karena tidak didasarkan adanya izin maupun kesepakatan. Deepfake dapat melakukan hal tersebut karena cara kerjanya menggunakan data biometrik video asal yang kemudian merekonstruksi wajah maupun suara si pemilik asilnya.
Dengan
kata lain deepfake merupakan sebuah media yang sangat realistis dalam
bentuk gambar, video, maupun suara yang dibuat oleh artificial intelligence.
Deepfake saat ini dapat diakses oleh semua orang tanpa batas apa pun,
dimana seseorang yang tanpa memiliki kemampuan pemrograman dapat menggunakan tools
maupun software seperti deepfacelab dan face swap sehingga
penggunanya datang dari kalangan yang bermacam-macam. (2)
Banyak kalangan
yang melihat penggunaan deepfake secara radikal dapat berdampak pada
penyebaran berita palsu, tidak hanya itu sektor finansial juga berdampak tepatnya
kasus penipuan finansial disinyalir lebih dari 200 USD dalam triwulan 1 tahun
2025 merupakan kerugian akibat adanya deepfake. (3)
Tantangan Dilema
Deepfake di Indonesia
Manipulasi foto, video, dan suara merupakan sebuah ancaman dikarenakan cara kerja deepfake yang dapat mengelola identitas biometrik seseorang menggunakan teknologi machine learning sehingga hasil yang dikeluarkan sangatlah identik dengan asilnya. Di tangan pihak yang tidak tepat deepfake merupakan ancaman yang serius, karena dapat menimbulkan ancaman epistemik yang dapat menggiring opini masyarakat terhadap suatu kondisi yang tidak benar.
Salah satu kasus yang terjadi di Indonesia adalah beredarnya video Mantan Presiden Joko Widodo diatas, dilakukan demi menggiring opini karena bertepatan dengan tahun politik. Selain Mantan Presiden Joko Widodo, seorang aktor ternama Baim Wong juga pernah menjadi korban, lantaran video dengan mukanya beredar dalam rangka program giveaway.
Dimana korban seorang Asisten Rumah Tangga bernama Evi menyatakan bahwa
dirinya mendapatkan giveaway senilai 149 juta rupiah, (4) melalui link
di media sosial Facebook yang kemudian mendapatkan sebuah panggilan video
dari seseorang yang mengaku Baim Wong pada saat program kanal Youtubenya pada
program “Indonesia Giveaway”.
Selain itu marak juga terjadi kasus deepfake porn dimana kasus yang sempat mencuat seperti seorang guru yang bernama S, seorang bidan yang bernama R dan terakhir seorang penegak hukum di Kejaksaan yang bernama T juga sempat menjadi korban. (5) Terkait kejahatan di dunia maya di Indonesia telah memiliki payung regulasi diantaranya adalah Undang-Undang No. 1 Tahun 2024 tenang Perubahan Kedua Atas Undang-Undang No. 11 Tahun 2008 tentang Informasi dan Transaksi Elektronik dan Undang-Undang No. 27 Tahun 2022 tentang Perlindungan Data Pribadi.
Namun
demikian kedua ketentuan tersebut hanya melindungi aspek muatan pornografi dan
perlindungan data pribadinya bagi korban, sehingga penegakan hukum terkait pencegahan
sebagai langkah preventif berlakunya teknologi AI berupa deepfake masih
belum tertanggulangi seperti halnya di Negara Amerika, China, serta
negara-negara Uni Eropa lainnya.
Amerika Serikat,
tepatnya di Negara Bagian California pada tahun 2019 telah mengatur berlakunya deepfake,
aturan pertama ialah Assembly Bill Number 602 dimana dalam pembuatan deepfake
mengenai pornografi harus mendapatkan persetujuan, apabila tidak melalui
konsen maka dapat dikenakan ganti rugi hingga 150.000 USD. (6) Aturan kedua dimuat
dalam Assembly Bill Number 730 yang telah disahkan menjadi Chapter
493 Statutes of 2019 California, dimana Negara Bagian California melarang
produksi, distribusi deepfake seorang kandidat, dan anggota partai
politik, atau entitas lain dalam waktu 60 hari setelah pemilu harus memuat dan
diberi tanda (AI-Generated). (7) Selain itu Negara Bagian Florida
melalui Brooke’s Law sama sekali melarang dan menghapus materi konten deepfake
.
Kemudian China
sebagai penganut civil law pada tanggal 18 November 2019, Kementerian
Kebudayaan dan Pariwisata, Administrasi Cyberspace Tiongkok, dan Administrasi
Radio dan Televisi Nasional mengeluarkan Provisi Administratif tentang Layanan
Informasi Audio-visual Online. (8) Aturan ini mengatur pelarangan
produksi, penerbitan, atau penyebaran informasi yang membahayakan keamanan
politik dan stabilitas serta rumor di internet. Internet Provider juga
diwajibkan untuk melakukan penilaian keamanan apabila terdapat akses internet
berupa konten yang menggunakan layanan deepfake.
Negara Uni Eropa telah memiliki Artificial Intelligence Act, tidak hanya mempersoalkan deepfake aturan ini dinilai sebagai aturan mengenai artificial intelligence paling komprehensif pertama di dunia sebagai wujud respons hukum terhadap perkembangan teknologi AI.
Dalam rangka meminimalisir akibat dari tindak pidana deepfake,
Pasal 52 ayat (3) mengatur bahwa setiap orang yang menciptakan ataupun
menyebarkan deepfake harus mengungkapkan hal tersebut merupakan media
tiruan (AI-Generated). Penanda tersebut sangat penting untuk mengatasi
dampak buruk yang ditimbulkan oleh deepfake yakni meminimalisir
penyalahgunaan data pribadi atas teknologi tersebut. (9)
Kendati Indonesia
belum mengatur secara khusus mengenai Artificial Intelligence maupun
teknologi deepfake, Indonesia melalui Undang-Undang Nomor 1 Tahun 2023
tentang Kitab Undang-Undang Hukum Pidana dalam penjelasannya juga telah
mengakui kemajuan ilmu pengetahuan dan teknologi yang belum diakomodir jenis
tindak pidananya dapat dilakukan melalui perubahan terhadap KUHP maupun diatur
dalam undang-undang tersendiri berdasarkan kekhususannya, sehingga hukum dan
penegakannya di Indonesia masih dapat mengakomodir perkembangan teknologi Artificial
Intelligence khususnya terhadap tindak pidana deepfake.
Kesimpulan
Teknologi deepfake merupakan fenomena baru, menurut Resemble. AI tujuan dan niat pihak yang menggunakan deepfake dari triwulan pertama tahun 2025 sejumlah 32% dilakukan untuk konten eksplisit non-konsensual dan 23% demi penipuan dan fraud sedangkan sisanya bersifat variatif. (10) Dari data tersebut menunjukkan konten yang digunakan dalam deepfake lebih sering digunakan untuk kepentingan pornografi dan keuntungan finansial. Penggunaan deep learning untuk data biometrik pribadi merupakan suatu kejahatan yang dilakukan tanpa konsen dan merugikan banyak pihak karena hasilnya menyerupai aslinya.
Kendati secara
implisit Indonesia telah mengakomodir perlindungan atas data pribadi, namun
yang menjadi pertanyaan ialah apakah biometrik data berupa raut wajah dan suara
merupakan suatu data pribadi yang dapat dilindungi dalam hukum di Indonesia.
Kekosongan hukum atas berlakunya artificial intelligence khususnya deepfake
mengenai pencegahan maupun penanggulangannya harus segera direspons secara
cepat dan tepat ke depannya. (YPY/LDR)
Refrensi.
(1) Hadang “deepfake”, Pemerintah Indonesia dorong implementasi AI yang
beretika, https://govinsider.asia/indo-en/article/hadang-deepfake-pemerintah-indonesia-dorong-implementasi-ai-yang-beretika,
dilihat pada tanggal 4 Agustus 2025, pukul 17.00 WITA.
(2) Nina Schick, “Deepfakes: The Coming Infocalypse, New York:
Twelve, 2020, hlm.
(3) Resemble,AI, Q1 2025 Deepfake Incident Report: Mapping Deepfake
Incidents, https://www.resemble.ai/wp-content/uploads/2025/04/ResembleAI-Q1-Deepfake-Threats.pdf, 2025, hlm. 1
(4) Lagi Penipuan “Giveaway” Catut Nama Baim Wong, Bagaimana Pelaku
meyakinkan Korbannya?. https://medan.kompas.com/read/2023/04/11/105816078/lagi-penipuan-giveaway-catut-nama-baim-wong-bagaimana-pelaku-meyakinkan?page=all#google_vignette,
dilihat pada tanggal 4 Agustus 2025, pukul 18.00 WITA.
(5) Setelah Bu Salsa, Bidan Rita, Kini Jaksa Tasya Mengaku Korban Deepfake
Porn, https://jempolindo.id/setelah-bu-salsa-bidan-rita-kini-jaksa-tasya-mengaku-korban-deepfake-porn/,
dilihat pada tanggal 4 Agustus 2025, pukul 18.20 WITA.
(6) Juan Felipe Rodrigo Lopez, “Tragic Realism: How to regulate
Deepfakes in Colombia?”, Latin American Law Review, No. 8, 2022, 125-45, https://doi.org/10.29263/lar08.2022.08.
(7) Juan Felipe Rodrigo Lopez, ibid.
(8) “Pemberitahuan tentang penerbitan "Ketentuan tentang Administrasi
Layanan Informasi Audio Visual Online", Kantor Komisi Keamanan Cyber dan
Teknologi Informasi,” https://www.cac.gov.cn/2019-11/29/c_1576561820967678.htm,
diakses pada tanggal 4 Agustus 2025, pukul 19.00 WITA.
(9) Shiona McCallum. Liv McMahon, dan Tom Singleton, “MEPs Approve
World’s First Comprehensive AI Law”, https://www.bbc.com/news/technology-68546450,
dilihat pada tanggal 4 Agustus 2025, pukul 19.20 WITA.
Baca Juga: Hakim Manusia Tidak Tergantikan Artificial Intellegence (AI)
(10)Resemble,AI, Ibid, hlm. 4
Untuk Mendapatkan Berita Terbaru Dandapala Follow Channel WhatsApp : Info Badilum MA RI
