Surabaya, paradigmanasional.id – Teknologi Deepfake dan AI Voice Cloning telah berkembang pesat dalam beberapa tahun terakhir. Deepfake, yang menggunakan kecerdasan buatan untuk membuat video atau gambar palsu namun tampak nyata, dan AI Voice Cloning, yang memungkinkan peniruan suara dengan akurasi tinggi, menjadi sangat populer baik untuk tujuan positif maupun negatif. Teknologi ini, selain menawarkan potensi besar dalam industri hiburan dan pendidikan, juga menghadirkan risiko kejahatan digital yang serius.
Deepfake adalah teknologi yang menggunakan algoritma kecerdasan buatan, khususnya deep learning, untuk membuat video atau gambar palsu yang terlihat nyata. AI Voice Cloning, di sisi lain, adalah teknologi yang memungkinkan peniruan suara seseorang dengan sangat akurat melalui analisis dan reproduksi pola suara.
Teknologi ini memiliki aplikasi positif, seperti dalam industri film untuk efek visual, dalam pendidikan untuk simulasi, dan dalam hiburan untuk menciptakan konten yang menarik. Namun, potensi penyalahgunaannya menimbulkan keprihatinan serius.
Teknologi Deepfake dan AI Voice Cloning dapat digunakan untuk berbagai bentuk kejahatan, termasuk:
1. Penipuan dan Pemerasan: Pelaku dapat membuat video atau audio palsu untuk menipu atau memeras korban.
2. Pencemaran Nama Baik dan Defamasi: Video atau audio palsu dapat digunakan untuk merusak reputasi seseorang.
3. Propaganda dan Disinformasi: Teknologi ini dapat digunakan untuk menyebarkan informasi palsu dan mempengaruhi opini publik.
Dari data yang dihimpun penulis, terdapat beberapa kasus nyata di mana Deepfake dan AI Voice Cloning digunakan untuk tujuan kriminal. Misalnya :
– Seorang karyawan perusahaan multinasional cabang Hong Kong tertipu oleh teknologi deepfake dan mengalami kerugian sebesar Rp 403 miliar. Karyawan tersebut menerima pesan dari seseorang yang mengaku sebagai kepala keuangan (CFO) perusahaan yang berbasis di Inggris. Orang-orang dalam panggilan video tersebut ternyata adalah deepfake, bukan staf asli dari perusahaan tersebut.
– Seorang kepala sekolah di Maryland, AS, dituduh sebagai orang rasis gara-gara rekaman suaranya yang ternyata palsu. Kasus ini menunjukkan bahwa teknologi deepfake dapat digunakan untuk merusak reputasi seseorang.
– AI digunakan untuk menduplikasi suara direktur perusahaan di Uni Emirat Arab dan mencuri $35 juta dalam sebuah pencurian besar-besaran
– Dua remaja di Florida membuat konten gambar berbasis AI yang tidak pantas dari teman sekolah mereka dan mendapatkan hukuman.
– Pemilik perusahaan teknologi di Fuzhou, China, menjadi korban penipuan scammer AI sebesar 4,3 juta yuan (sekitar Rp8,9 triliun)
– Artis Nagita Slavina diduga menjadi korban video deepfake. Sebuah video yang menampilkan seseorang diduga mirip artis Nagita Slavina, atau yang akrab disapa Gigi, ramai dibagikan. Video berdurasi singkat 61 detik itu menampilkan adegan tidak senonoh di mana pelakunya memiliki wajah mirip tokoh publik sekaligus artis, Nagita Slavina.
Saat ini di media sosial Indonesia semakin marak iklan-iklan komersial yang menggunakan rekaman video public figure dengan teknologi Deepfake dan AI Voice Cloning untuk memasarkan produk-produknya
Regulasi di Indonesia terkait kejahatan digital diatur dalam Undang-Undang Informasi dan Transaksi Elektronik (UU ITE) serta Kitab Undang-Undang Hukum Pidana (KUHP). Namun, peraturan ini belum secara spesifik mencakup kejahatan yang berkaitan dengan Deepfake dan AI Voice Cloning, sehingga ada kelemahan dalam penegakan hukum terhadap kejahatan ini.
Beberapa negara lain telah mulai mengadopsi regulasi khusus untuk menangani Deepfake. Misalnya, di Amerika Serikat, beberapa negara bagian telah mengeluarkan undang-undang yang melarang penggunaan Deepfake untuk tujuan tertentu, seperti pemilu atau pornografi tanpa persetujuan. Indonesia dapat belajar dari pendekatan ini untuk memperkuat regulasi domestiknya.
Pemerintah Indonesia perlu mengambil langkah proaktif untuk menangani ancaman ini, termasuk memperbarui UU ITE untuk mencakup kejahatan yang berkaitan dengan Deepfake dan AI Voice Cloning, serta memperkuat penegakan hukum terhadap pelaku.
Organisasi non-governmental dapat berperan dalam meningkatkan kesadaran masyarakat tentang risiko teknologi ini melalui kampanye edukasi. Mereka juga dapat membantu menyediakan alat dan sumber daya untuk mendeteksi Deepfake.
Pengembangan teknologi untuk mendeteksi Deepfake dan AI Voice Cloning sangat penting. Kolaborasi antara pemerintah, industri teknologi, dan akademisi diperlukan untuk menciptakan solusi efektif dalam mendeteksi konten palsu sebelum menyebar luas.
Teknologi Deepfake dan AI Voice Cloning memiliki potensi besar untuk disalahgunakan dalam berbagai bentuk kejahatan digital. Regulasi yang ada di Indonesia saat ini belum memadai untuk menangani ancaman ini secara efektif. Tindakan segera diperlukan untuk melindungi masyarakat dari ancaman yang ditimbulkan oleh teknologi ini. Semua pihak, termasuk pemerintah, lembaga non-governmental, dan masyarakat luas, harus berperan aktif dalam upaya preventif dan penegakan hukum yang lebih ketat.
Ditulis oleh : Advokat B.S.D. Siringoringo, S.H. (Biro Hukum Media Paradigma Nasional)_
