Bisnis.com, JAKARTA — Pengambilan akun hingga penipuan yang memanfaatkan generatif AI mengambil peran besar terhadap penipuan berbasis digital saat ini.

Laporan riset white paper VIDA bertajuk ‘Where’s The Fraud: Protecting Indonesian Business from AI-Generated Digital Fraud’ mengungkap empat besar penipuan digital yang terjadi di dunia.

Dalam riset itu, terungkap bahwa deepfake yang dihasilkan dari kecerdasan buatan (AI), pemalsuan dokumen dan tanda tangan, hingga social engineering (soceng) menjadi penipuan digital terbesar.

Founder dan CEO VIDA Group Niki Luhur menyampaikan bahwa risiko deepfakes dan penipuan lainnya oleh teknologi AI merupakan hal yang nyata. “Dan banyak bisnis kehilangan miliaran rupiah karena serangan ini,” kata Niki dalam VIDA Executive Summit 2024, Selasa (4/9/2024).

Merujuk whitepaper ‘Where’s The Fraud: Protecting Indonesian Business from AI-Generated Digital Fraud’, berikut adalah empat penipuan digital terbesar di dunia:

1. Penipuan yang Dihasilkan AI

Dalam riset tersebut ditemukan bahwa deepfake yang berasal AI mampu menciptakan video, audio, atau gambar palsu yang realistis untuk menyamar sebagai individu dalam pencurian identitas dan penipuan.

Dalam hal ini, deepfake menggunakan serangan presentasi (video atau audio palsu) dan serangan injeksi (aliran yang dimanipulasi) untuk melewati pemeriksaan identitas, mengeksploitasi sistem yang tidak memiliki verifikasi berbasis AI dan deteksi keaktifan.

Adapun salah satu kasus deepfake dari AI terjadi pada 2023. Di mana, sebuah bank Eropa kehilangan US$35 juta karena penipuan deepfake. “Ini menggarisbawahi perlunya deteksi penipuan yang kuat,” demikian yang tertulis dalam riset, dikutip pada Rabu (4/9/2024).

2. Pengambilalihan Akun

Penipuan lainnya adalah pengambilalihan akun. Ini terjadi karena hacker mengeksploitasi kata sandi (password) yang lemah dan kurangnya autentikasi multifaktor melalui serangan credential stuffing dan phishing.

Pada 2023, penipuan pengambilalihan akun telah merugikan bisnis lebih dari US$11 miliar. Di mana, sektor keuangan dan e-commerce merupakan industri yang paling terpengaruh.

3. Pemalsuan Dokumen dan Tanda Tangan

Penipuan pemalsuan dokumen ini mencakup pemalsuan identitas, kontrak, atau tanda tangan untuk penipuan.

Umumnya, penipuan ini melibatkan manipulasi dokumen (mengubah dokumen fisik atau digital) dan pemalsuan tanda tangan. Kasus ini pernah terjadi pada 2023, di mana kebocoran data oleh Bjorka mengekspos 34,9 juta catatan paspor Indonesia.

Selain itu, pemalsuan dokumen dan tanda tangan juga terjadi pada klaim asuransi palsu, yang mengakibatkan kerugian finansial dan premi penipuan yang lebih tinggi. ”Kebocoran baru-baru ini mengungkap jutaan catatan sensitif, yang meningkatkan risiko dalam industri ini [asuransi],” ungkapnya.

4. Rekayasa Sosial (Social Engineering)

Social engineering alias soceng memanipulasi manusia untuk mendapatkan akses ke data sensitif. Perlu diketahui, phishing merupakan serangan soceng yang paling umum, menipu korban untuk mengungkapkan data sensitif. Contoh lainnya termasuk spearphishing dan pretexting, yang mengeksploitasi kesadaran yang lemah dan verifikasi yang buruk.

Dalam riset tersebut mengungkap bahwa kasus penipuan soceng pernah terjadi pada 5 juta pengguna X (sebelumnya Twitter) yang terdampak oleh peretasan zero-day, tetapi totalnya masih bisa melebihi 20 juta.

Bukan hanya itu, soceng seperti phishing masih marak, dengan 41% kasus penipuan keuangan terkait dengan penipuan pembayaran peer-to-peer (P2P).

Sektor layanan kesehatan juga menjadi target serangan social engineering, dengan memanipulasi karyawan untuk mengungkapkan data sensitif, yang mengakibatkan pelanggaran data, denda regulasi, dan kerusakan reputasi.

Bisnis.com, JAKARTA - Penyelenggara Sertifikasi Elektronik (PSrE), PT Indonesia Digital Identity (VIDA) mengungkap penipuan deep fake di Indonesia pada masa pemilihan umum (pemilu) mencapai 1.550%.

Hal ini seiring dengan meningkatnya penggunaan teknologi kecerdasan buatan generatif atauGenerative Artificial Intelligence(gen-AI). Secara sederhana, deep fake adalah teknologi kecerdasan buatan (AI) yang digunakan untuk membuat gambar, video, atau audio palsu.

Founder dan CEO VIDA GroupNiki Luhur mengatakan bahwa keberadaan AI sejatinya telah menyebabkan peningkatan besar dalam penipuandeep fake.

Pada 2022–2023, misalnya, penipuan deep fake tumbuh 1.540% di Asia Pasifik. Penipuan deep fake ini termasuk, foto dan video deep fake, kloning suara, hingga jenis peniruan identitas lainnya.

“Di Indonesia, kami telah melihat penipuan deep fake meningkat sebesar 1.550%. Kenaikan 1.550% antara tahun 2022 dan 2023, satu tahun,” kata Niki dalam acara Vida bertajuk ‘Where's The Fraud?: How Indonesian Businesses Can Safeguard Digital Transactions’ di Jakarta, Selasa (3/9/2024).

Laporan lainnya, Niki menuturkan bahwa laporan Google DeepMind pada Juni 2024 menunjukkan penyalahgunaan AI tertinggi adalah terkait peniruan identitas secara global.

“Peniruan identitas khusus untuk tujuan penipuan,” ungkapnya.

Niki mengungkap bahwa berbagai ancaman digital yang kerap terjadi, termasukdeep fake, penipuan berbasis teknologi AI, pengambilalihan akun (account takeovers), dan serangansocial engineering, diketahui telah meningkat hingga 1.550% dalam beberapa tahun terakhir.

Adapun, VIDA meluncurkan VIDA Identity Stack untuk melindungi proses bisnis di Indonesia dengan solusi pencegahan penipuan identitas digital hingga 99,9% yang didesain untuk melindungi bisnis agar aman dan lancar untuk pengalaman pengguna pelanggan.

“RisikoDeepfakesdan penipuan lainnya oleh teknologi AI itu nyata, dan banyak bisnis kehilangan miliaran rupiah karena serangan ini,” ungkapnya.

VIDA Identity Stack mengatasi secara langsung dua masalah utama, yakni kerugian finansial dan menurunnya kepercayaan pada sistem digital.

Niki menyampaikan VIDA juga mempublikasikan laporan risetwhite paperbertajuk “Where’s The Fraud: Protecting Indonesian Business from AI-Generated Digital Fraud.”

Dalam laporan tersebut ditemukan sebanyak 97% bisnis di Indonesia telah menjadi sasaran serangansocial engineeringdalam setahun terakhir, denganphisingdansmishingmenjadi metode yang paling umum digunakan.

Selain itu, 46% bisnis ini juga tidak memiliki pemahaman teknologi AI yang mendalam untuk mencegah serangan ini. Hal ini menunjukkan urgensi akan kebutuhan solusi berbasis AI yang komprehensif.

Dalam laporan ini juga menemukan bahwa 84% bisnis telah mengalamiidentity fraudatau penipuan digital pada tahun lalu, dan 100% dari bisnis dalam survei ini mengutarakan keprihatinannya terhadap risiko yang ditimbulkan oleh teknologideepfake.

Kemudian, 90% bisnis mengidentifikasiphisingsebagai ancaman terbesar mereka, dengan 56% bisnis kesulitan untuk mendeteksi dan mencegah serangan ini.

Presiden Joko Widodo (Jokowi) mengatakan tingkat literasi keuangan masyarakat Indonesia masih rendah sehingga kerap jadi sasaran empuk kejahatan dan penipuan digital.

"Literasi keuangan kita masih rendah, seingat saya kurang lebih 50 persen. Masyarakat masih rentan mengalami risiko penipuan dan kejahatan digital," kata Jokowi saat meresmikan pembukaan Festival Ekonomi Keuangan Digital Indonesia dan Karya Kreatif Indonesia 2024 di JCC, Jakarta, Kamis (1/8).

Ia pun berpesan agar Bank Indonesia (BI) dan Otoritas Jasa Keuangan (OJK) untuk meningkatkan perlindungan masyarakat di sektor ekonomi digital.

"Jangan sampai rakyat kecil menjadi pihak yang dirugikan," kata dia.

Jokowi juga meminta agar sistem perlindungan konsumen disiapkan sebaik mungkin, serta harus bisa memberikan kepastian keamanan data konsumen. Sebab, keamanan data menjadi hal yang sangat penting. Ia mewanti-wanti agar Indonesia mengedepankan backup atau cadangan data berlapis ke depan.

"Penting itu. Saya kita pengamanan kita kemarin harus betul-betul dijadikan pengalaman yang baik dan bermanfaat untuk ke depannya," ujarnya.

Berdasarkan survey OJK, tingkat literasi keuangan masyarakat Indonesia baru mencapai 49,68 persen pada 2022. Sementara, tingkat inklusi keuangan pada 2022 mencapai 85,10 persen meningkat dibanding periode 2019 yaitu 76,19 persen.

"Secara umum di Indonesia, inklusi itu lebih tinggi dari literasi, artinya lebih banyak orang yang gunakan produk (keuangan) daripada memahami," kata Kepala Eksekutif Pengawas Perilaku Pelaku Usaha Jasa Keuangan, Edukasi, dan Pelindungan Konsumen OJK Friderica Widyasari Dewi dalam episode pertama podcast 'Money Honey' CNNIndonesia.com, Jumat (24/2).