Jakarta: Perusahaan keamanan siber Trend Micro baru ini menggelar rangkaian konferensi yang membahas tren serangan siber global termasuk di kawasan Asean, terutama di bidang perbankan.

Deepfake, salah satu mode kejahatan siber disebut menjadi salah satu ancaman bagi industri perbankan atau finansial. Diakui Deepfake bukan modus kejahatan siber baru, namun dengan sentuhan teknologi AI kini sulit untuk mengenali sebuah konten Deepfake tanpa bantuan keamanan siber.

Deepfake adalah modus kejahatan dengan menggunakan wajah orang lain pada sebuah video yang berbeda. Jika sebelumnya Deepfake kerap digunakan pada konten negatif seperti video porno untuk hoax, kini pada industri perbankan modus Deepfake digunakan penjahat siber untuk lolos dari verifikasi nasabah.
Sapna Sumbly, Director-BFSI Business APAC Trend Micro menuturkan, penjahat siber dengan data nasabah yang berhasil dicuri seperti foto paspor dan sejenisnya digunakan sebagai konten Deepfake untuk menutupi wajah asli pelaku ketika proses verifikasi perbankan, seperti sistem Know-Your-Customer (KYC).

“Kemudian penjahat siber akan melakukan pencurian uang nasabah, maupun mengajukan pinjaman dari bank dengan mengaku sebagai nasabah yang datanya dicuri. Teknologi AI membuat Depfake semakin meyakinkan, dan sulit dibedakan tanpa bantuan deteksi solusi keamanan siber,” jelas Sapna.

Di Indonesia sendiri menurut Sapna topik pembicaraan Deepfake oleh industri perbankan di Tanah Air masih dalam tahap perbincangan dan evaluasi. Mereka masih membutuhkan regulasi yang jelas untuk mengatasi ini.

“Perbankan di Indonesia masih mengevaluasi ini (Deepfake), kesadarannya sebenarnya sudah ada. Kami berusaha meningkatkan awareness mereka dengan menyediakan solusi Trend Micro untuk mendeteksi serangan Deepfake,” jelas Sapna.

Laksana Budiwiyono, Country Manager Trend Micro Indonesia, menambahkan bahwa meskipun awareness di Indonesia terhadap serangan siber tapi sebagian besar perusahaan di berbagai sektor masih butuh waktu lama dalam menangani serangan siber.

Pada data Trend Micro mengenai waktu menangani serangan siber terhitung sejak terdeteksi atau Mean Time To Patch (MTTP) di berbagai benua atau region, Indonesia disebut yang paling lama, yaitu butuh 45 hari sejak serangan siber terdeteksi.

Rata-rata MTTP di berbagai wilayah hanya sekitar 23,9 hari. Laksana menunjukan bahwa Eropa hanya per 26,5 hari untuk mencapai status recovery sementara AMEA dan Amerika masing-masing 28,3 hari dan 32,8 hari. Kawasan Jepang yang jadi basis Trend Micro butuh 36,4 hari.

“Di ASEAN, MTTP yang dibutuhkan berkisar 30 hari, Indonesia 45 hari. Tandanya Indonesia memerlukan waktu 1,5 kali lebih lama dari mayoritas negara di Asia Tenggara,” tegas Laksana. Bagaimana dengan tingkat keamanan siber di Indonesia?

Trend Micro membagi skala tingkat keamanan menjadi tiga level, 0-30 untuk risiko rendah, 31-69 yaitu tingakt medium atau menengah, dan lebih dari 69 artinya tinggi alias berbahaya.

Masih dari data Trend Micro, rata-rata tingkat keamanan siber di Asia Tenggara atau ASEAN disebut pada angka 43,2 nilainya namun Indonesia di nilai 44. “Kalau dilihat rata-ratanya Indonesia sedikit lebih tinggi dari Asia Tenggara,” imbuhnya.

Trend Micro sendiri bukan pemain baru, mereka sudah ada di Indonesia sejak lama. Sejumlah solusi keamanan siber yang mereka miliki cukup banyak termasuk deteksi Deepfake yang juga mengandalkan AI, penggunanya akan mendapatkan notifikasi dan imbauan langkah yang harus diambil jika Deepfake terbukti positif.


dan followChannel WhatsApp Medcom.id

(MMI)

JAKARTA, investor.id - Dari hasil riset VIDA Where’s The Fraud - Protecting Indonesia Business from AI Generated Fraud, terungkap bahwa penipuan deepfake di Indonesia tercatat melonjak sebesar 1.550% antara 2022 hingga 2023,

Co-founder dan Presiden VIDA Sati Rasuanto mengatakan, penipuan digital semakin canggih, terutama dengan maraknya penyalahgunaan teknologi AI. “Kami tetap berkomitmen untuk menciptakan ekosistem yang aman, di mana setiap orang dapat percaya bahwa informasi pribadi, data keuangan, dan transaksi digital mereka, terlindungi dari aktivitas penipuan," ujarSati dalam keterangan pers, Kamis (31/10/2024).

Sati menambahkan, pihaknya menyadari bahwa hal terpenting adalah meningkatkan kesadaran dan memberdayakan konsumen secara berkelanjutan. Seiring dengan berkembangnya metode penipuan, solusi yang ditawarkannya pun harus terus maju.

“Kami mengajak konsumen dan pelaku bisnis di Indonesia untuk bekerja sama dalam menghadapi ancaman kejahatan online berbasis AI. Dengan memprioritaskan keamanan, kita dapat membangun sistem keuangan yang lebih inklusif dan tangguh bagi Indonesia,” ujar Sati.

Untuk itu, lanjut Sati, VIDA menyediakan pendekatan komprehensif untuk pencegahan penipuan dengan menghadirkan VIDA Identity Stack (VIS), solusi menyeluruh untuk menghadapi ancaman penipuan berbasis AI dan mampu menjamin hingga 99.9% keamanan transaksi digital melalui berbagai lapisan.

Tidak hanya itu, Sati mengatakan, VIDA juga menawarkan VIDA Sign platform, termasuk Sign OpenAPI, yang dirancang untuk memfasilitasi penandatanganan dan pemrosesan dokumen dengan jaminan keamanan 99.9%. Dengan integrasi yang mudah ke dalam sistem yang sudah ada, solusi ini menjadikan VIDA Sign sebagai platform penandatanganan paling aman di Indonesia. Dibangun menggunakan VIDA Identity Stack, solusi ini memastikan keamanan terbaik untuk transaksi digital.  

Editor: Indah Handayani (handayani@b-universe.id)

Follow Channel Telegram Official kami untuk update artikel-artikel investor.id

Baca Berita Lainnya di Google News

Sebuah laporan baru dari PBB mengungkap sindikat kejahatan di Asia Tenggara berhasil meraup hingga Rp 575 triliun melalui berbagai modus operandi, termasuk penggunaan teknologi canggih seperti kecerdasan buatan (AI) dan deepfake.

Laporan yang dirilis Kantor PBB untuk Narkoba dan Kejahatan (UNODC) pada Oktober 2024 ini menjelaskan bagaimana para kelompok kriminal mengoptimalisasi AI untuk memperkuat aksi penipuan, pencucian uang, hingga operasi perbankan gelap dan penipuan siber.

UNODC memperkirakan kerugian finansial akibat penipuan di Asia Tenggara mencapai USD 37 miliar (setara Rp 575 triliun) sepanjang 2023.

Sebagian besar penipuan ini dilakukan oleh sindikat kejahatan yang beroperasi di kawasan tersebut, dengan peningkatan signifikan dalam penggunaan deepfake yang mencapai 600 persen selama paruh pertama 2024.

“Kelompok kriminal kini lebih terorganisir dan memanfaatkan celah teknologi, melampaui kemampuan pemerintah dalam menghadapinya,” ujar Perwakilan Regional UNODC untuk Asia Tenggara dan Pasifik, Masood Karimipour, seperti dikutip dari situs resmi UNODC.

Laporan berjudul Kejahatan Terorganisir Transnasional dan Penipuan Berbasis Siber: Lanskap Ancaman yang Bergeser itu menemukan adanya peningkatan penggunaan platform judi daring ilegal dan aset kripto untuk pencucian uang hasil kejahatan.

Mereka juga mendiversifikasi bisnis ilegalnya dengan menambah penipuan siber yang didukung teknologi canggih.

Analis Regional UNODC, John Wojcik, menjelaskan penggunaan AI generatif oleh kelompok kriminal telah memudahkan akses bagi mereka yang sebelumnya tak memiliki kemampuan teknis.

“Penggunaan AI dalam penipuan siber telah memperluas skala dan meningkatkan efisiensi kejahatan,” katanya.

Dalam laporan tersebut, disebutkan bahwa pemerintah Indonesia memperkirakan lebih dari 3 juta warganya terlibat perjudian daring dengan nilai lebih dari USD 20 miliar. Hal itu berujung pembentukkan Satuan Tugas Pemberantasan Perjudian Daring lintas kementerian pada April 2024.

Sindikat kriminal kerap memaksa pekerja melakukan penipuan melalui iklan pekerjaan palsu.

Merespons maraknya kasus ini, PBB menyerukan agar pemerintah segera merespons dengan kebijakan yang lebih tanggap dan regulasi yang lebih ketat untuk menangkal ekspansi jaringan kriminal transnasional.

PBB juga merekomendasikan penguatan legislasi dan penegakan hukum di Asia Tenggara sebagai langkah penting mengatasi ancaman yang terus berkembang.

Reporter: Handoyo | Editor: Handoyo .

KONTAN.CO.ID - JAKARTA. Penipuan cinta telah menjadi salah satu bentuk kejahatan dunia maya yang semakin canggih seiring dengan perkembangan teknologi.

Di Hong Kong, polisi baru-baru ini mengungkap skandal penipuan yang menggunakan teknologi deepfake untuk memikat korban.

Menguti[ CNN, skema ini berhasil menipu pria di seluruh Asia hingga total kerugian lebih dari US$46 juta.

Penipuan Cinta dengan Deepfake: Mengapa Teknologi Ini Berbahaya?

Deepfake merupakan teknologi yang memungkinkan pembuatan video, audio, atau konten lain yang sangat realistis dengan bantuan kecerdasan buatan (AI).

Pada kasus penipuan ini, deepfake digunakan untuk menciptakan citra wanita cantik yang tampak nyata dalam video panggilan, sehingga korban percaya bahwa mereka sedang berbicara dengan kekasih baru mereka.

Teknologi ini telah semakin sering diadopsi oleh berbagai aktor jahat untuk menyebarkan informasi palsu atau menjalankan penipuan online. Dalam konteks penipuan cinta, deepfake memberikan senjata baru bagi para penipu untuk meyakinkan korban dan memanipulasi emosi mereka.

Modus Operandi Sindikat Penipuan

Polisi di Hong Kong mengungkap bahwa sindikat ini menargetkan pria dari berbagai negara Asia, termasuk Taiwan, Singapura, dan bahkan India. Para korban pertama kali dihubungi melalui pesan teks yang menyatakan bahwa pengirimnya, yang berpura-pura sebagai wanita menarik, secara tidak sengaja menambahkan nomor korban.

Setelah terjalin komunikasi, sindikat penipuan ini mulai membangun hubungan romantis secara online. Mereka menciptakan suasana kedekatan emosional hingga para korban percaya bahwa mereka sedang merencanakan masa depan bersama.

Sindikat penipuan ini sangat terorganisir dan dibagi menjadi beberapa departemen yang bertanggung jawab atas berbagai tahapan penipuan. Mereka bahkan memiliki buku panduan pelatihan yang mengajarkan anggota bagaimana memanfaatkan perasaan korban untuk tujuan kejahatan mereka.

Polisi menyebutkan beberapa langkah yang diajarkan dalam panduan tersebut, termasuk:

• Memahami pandangan dunia korban untuk menciptakan persona yang disesuaikan.
• Menciptakan cerita fiktif tentang hubungan atau bisnis yang gagal untuk meningkatkan kepercayaan korban.
• Menggambarkan visi masa depan yang indah, seperti rencana perjalanan bersama, untuk mendorong korban melakukan investasi.

Penggunaan Teknologi Deepfake dan Platform Kripto Palsu

Salah satu aspek yang membuat penipuan ini sangat canggih adalah penggunaan teknologi deepfake. Teknologi ini memungkinkan sindikat untuk membuat video panggilan palsu dengan kualitas yang sangat meyakinkan, di mana korban melihat wanita yang tampaknya nyata, namun sebenarnya hanya hasil rekayasa digital.

Selain itu, sindikat ini bekerja sama dengan spesialis TI di luar negeri untuk membangun platform cryptocurrency palsu. Di sinilah para korban akhirnya diarahkan untuk melakukan investasi besar, dengan harapan keuntungan yang tinggi dari pasar kripto. Namun, semua dana yang diinvestasikan sebenarnya hanya masuk ke kantong sindikat.

Dampak dan Pengamanan di Hong Kong

Kejahatan penipuan ini semakin meningkatkan kewaspadaan otoritas di Hong Kong. Kota ini telah lama menjadi pusat keuangan global, dan penipuan berbasis teknologi seperti ini menandai tantangan baru bagi keamanan dunia maya.

Sebelumnya, Hong Kong juga telah mengalami beberapa kasus penipuan telepon dengan korban yang mengalami kerugian besar, khususnya dari kalangan lanjut usia.

Namun, dengan meningkatnya realisme teknologi deepfake, polisi menyatakan bahwa tingkat risiko semakin meningkat. Tahun ini, sebuah perusahaan desain dan teknik multinasional yang berbasis di Hong Kong kehilangan US$25 juta setelah salah satu karyawannya ditipu oleh scammers yang menggunakan deepfake untuk menyamar sebagai kepala keuangan perusahaan.

Penangkapan dan Barang Bukti

Polisi Hong Kong berhasil membongkar sindikat ini setelah mendapatkan intelijen sekitar Agustus. Operasi penangkapan dilakukan di sebuah unit industri seluas 4.000 kaki persegi di distrik Hung Hom. Dalam penggerebekan tersebut, polisi menangkap 21 pria dan 6 wanita, dengan usia berkisar antara 21 hingga 34 tahun.

Sebagian besar tersangka merupakan lulusan media digital dan teknologi dari universitas setempat, yang diduga direkrut oleh sindikat setelah menyelesaikan pendidikan mereka. Barang bukti yang disita termasuk lebih dari 100 ponsel, uang tunai senilai hampir US$26.000, serta sejumlah jam tangan mewah.

KOMPAS.com - Kemajuan era digital menghadirkan teknologi kecerdasan buatan/Artificial Intelligence (AI) di berbagai sektor. Sebagaimana teknologi lain, AI pun membawa banyak manfaat, maupun ancaman, tergantung siapa penggunanya.

Salah satu ancaman yang kini semakin sering terjadi adalah penggunaan teknologi deepfake AI untuk menipu publik.

Deepfake adalah produk hasil pemanfaatan AI untuk menciptakan video, audio, atau gambar rekayasa. Biasanya, produk deepfake memanipulasi gambar atau suara seseorang sehingga terlihat sangat mirip dengan aslinya.

Lantaran mirip, hasil deepfake seringnya menjebak dan sulit dibedakan dengan aslinya. Figur publik, terutama selebriti, kerap menjadi korban deepfake.

Para pelaku kejahatan dunia maya memanfaatkan popularitas selebriti untuk melancarkan berbagai bentuk penipuan. Modus yang paling umum digunakan adalah memalsukan endorsement atau dukungan selebriti terhadap produk atau layanan tertentu.

Laporan dari McAfee, perusahaan keamanan siber, mengungkapkan beberapa selebriti yang paling sering menjadi korban penipuan berbasis deepfake AI.

Hasil manipulasi selebriti digunakan untuk berbagai bentuk penipuan, mulai dari iklan palsu hingga penipuan investasi kripto.

Scarlett Johansson menjadi nama selebriti yang paling banyak dieksploitasi. Bintang film "Black Widow" dan "Lost in Translation" ini, menduduki peringkat teratas dalam daftar McAfee sebagai selebriti yang namanya paling sering digunakan dalam penipuan online.

Wajahnya digunakan dalam deepfake AI untuk iklan palsu dan endorsement produk yang sebenarnya tidak pernah ia setujui.

Hal ini membuatnya menentang penggunaan AI yang tidak etis ini. Bahkan, Scarlett sampai mengancam langkah hukum untuk menghentikan penyalahgunaan tersebut.

Selain Scarlett, aktor, Tom Hanks juga menghadapi masalah serupa. Wajahnya dimanipulasi dalam video promosi produk “obat ajaib”.

Tom, yang sangat menjaga reputasi pribadinya, menegaskan bahwa ia tidak pernah mendukung produk semacam itu dan meminta penggemarnya untuk waspada terhadap penipuan yang menggunakan namanya.

“Ada banyak iklan di internet yang secara keliru menggunakan nama, wajah, dan suara saya untuk mempromosikan “obat-obatan ajaib”,” tulis Hanks. Hanks menutup pesannya dengan peringatan “Jangan tertipu. Jangan ditipu. Jangan kehilangan uang yang susah payah Anda dapatkan.”

Selain Scarlett Johansson dan Tom Hanks, Taylor Swift juga terkena dampak deepfake AI. Belakangan ini, Taylor Swift dan tim hukumnya tengah mengambil langkah hukum terhadap platform-platform yang menyebarkan konten deepfake pornografi yang menampilkan wajahnya.

Berikut 10 selebriti teratas yang paling sering menjadi korban deepfake AI, berdasarkan laporan MacAfee :

1. Scarlett Johansson: gambar wajahnya digunakan tanpa izin untuk iklan dan endorsement palsu. Ia juga mengancam menuntut melawan konten AI yang dibuat tanpa persetujuan.
2. Kylie Jenner: model, bintang reality show, dan influencer yang gambarnya digunakan tanpa izin untuk penipuan giveaway dan produk Kylie Cosmetics palsu.
3. Taylor Swift: penyanyi yang gambarnya digunakan tanpa izin untuk penipuan dukungan selebriti, tiket palsu, dan penipuan giveaway, serta disinformasi politik.
4. Anya Taylor-Joy: aktris yang namanya digunakan untuk penipuan giveaway dan penyebaran informasi palsu tentang seri streaming nya.
5. Tom Hanks: aktor yang gambarnya digunakan untuk mempromosikan "obat ajaib" yang palsu.
6. Sabrina Carpenter: penyanyi yang gambarnya digunakan untuk penipuan tiket palsu dan iklan aplikasi yang menciptakan gambar eksplisit.
7. Sydney Sweeney: aktris yang namanya digunakan dalam penipuan kripto.
8. Blake Lively: aktris yang gambarnya digunakan tanpa izin dalam penipuan permen karet penurun berat badan.
9. Johnny Depp: aktor yang gambarnya digunakan dalam penipuan giveaway, kripto, dan penggalangan dana palsu.
10. Addison Rae: penyanyi dan aktris yang gambarnya digunakan tanpa izin untuk penipuan dukungan, giveaway, dan kripto.

Pihak McAfee memperingatkan, seiring dengan semakin canggihnya AI, akan semakin sulit membedakan mana yang deepfake dan mana yang asli.

Jadi, masyarakat diimbau untuk tetap waspada dan mencoba menerapkan berpikir kritis terhadap apa yang muncul di media sosial.

“Di era ketika berita selebritas menjadi bagian dari percakapan sehari-hari dan dapat diakses dengan sekali klik, orang seringkali mengutamakan kenyamanan dibandingkan keamanan online,” kata Abhishek Karnik, Kepala Riset Ancaman McAfee, dirangkum dari Gizmodo, Minggu (13/10/2024).

"Namun, kalau konten tersebut terasa sangat menjanjikan, sebaiknya dicek ulang. Para penjahat siber memanfaatkan AI untuk membuat peniuan yang tampak meyakinkan, lebih berisiko, dan nama selebriti menjadi pancingan sempurna bagi konsumen yang penasaran. Itu sebabnya Anda harus waspada dan berpikir ulang saat melihatnya," imbuhnya.

Kementerian Komunikasi dan Informatika (Kominfo) bekerja dengan perusahaan teknologi mulai dari Meta, Google hingga TikTok untuk membantu menghentikan berita palsu hingga deepfake buatan AI (Artificial intelligence). Kominfo meminta platform digital dan media social menghapus konten yang mengandung ujaran kebencian, hoaks dan fitnah menjelang Pemilihan Kepala Daerah (Pilkada) Serentak 2024.

Beberapa perwakilan platform digital dan media sosial di Indonesia, di antara lain Meta (meliputi Facebook, Instagram, Whatsapp, Threads), Google (meliputi Google dan Youtube), Tiktok, Snackvideo, Telegram, dan Line.

Kominfo akan memantau persebaran informasi digital di sejumlah media sosial dan menindak konten-konten yang termasuk dalam kategori berita palsu seperti fitnah. “Bila konten mengandung ujaran kebencian, fitnah, hoaks dan segala dan lain-lainnya itu maka akan kami takedown,” kata Menteri Kominfo Budi Arie di Kantor Kominfo pada Kamis (3/10).

Selain empat kategori tersebut, konten lain yang diantisipasi adalah konten deep fake AI. Deepfake ini merupakan konten menggunakan AI untuk membuat gambar, audio, dan video palsu yang mirip secara fisik dan meniru suara tokoh-tokoh tertentu.

Antisipasi bisa dilakukan dengan memberikan edukasi pada masyarakat terkait pemalsuan-pemalsuan yang mungkin muncul di ruang digital. Selain itu, kerja sama dengan sejumlah platform memudahkan tindak lanjut Kominfo dalam memberantas jenis konten deep fake tersebut.

Budi Arie mengatakan telah bekerja sama dengan pihak TikTok untuk segera menghapus konten yang berkaitan. “Bisa langsung kita minta ke Tiktok Ini. Kemarin Ini dipalsukan juga, tapi kita cepat tanggap,” kata Budi.

Selain dengan pengawasan konten secara langsung di media sosial, Kominfo juga membentuk Satgas Anti-Hoaks.

Nantinya tidak hanya terdiri dari perwakilan Kemenkominfo tapi juga menggandeng platform-platform digital yang beroperasi di Indonesia seperti Meta Group (Instagram, Facebook, WhatsApp), Google (YouTube), TikTok, dan SnackVideo.

Direktur Jenderal Informasi Komunikasi Publik (Dirjen IKP) Kemenkominfo Prabunindya Revta Revolusi dalam acara yang sama.

“Jadi momentum hari ini Adalah momentum kita Akan bersepakat ya dengan platform yang hadir untuk membentuk Satgas di mana platformnya juga terlibat dalam Satgas ini secara aktif,” kata Prabunindya pada Kamis (3/10).

TEMPO.CO, Jakarta - Telah sejak 2014 lalu teknologi AI, yang dikenal sebagai generative adversarial networks, telah memungkinkan individu penggila teknologi mengubah dan memanipulasi gambar atau audio (deepfake). Mereka memanipulasi secara digital video-video eksisting milik orang lain untuk menggantinya dengan wajah berbeda, membuat ekspresi wajah yang baru, dan menyisipkan suara perkataan baru mengikuti gerak bibir yang sesuai.

Kemampuan itu di sisi lain telah memberi jalan pelaku penipuan (scammer), peretas (hacker), dan pengguna internet lainnya untuk memproduksi video deepfake. Video-video di mana selebritas seperti Taylor Swift dan bahkan orang biasa mungkin menemukan diri mereka ada dalam deepfake pornografi yang non-konsensual, scam, dan disinformasi politis alias hoax.

Sejumlah teknik untuk bisa identifikasi gambar palsu bangkitan AI (identifikasi keganjilan secara sosiokultural, dan lain-lain) bisa diplikasikan ke video deepfake. "Video-video bangkitan AI mungkin lebih mudah untuk bisa dideteksi daripada gambar atau foto karena ada banyak gerakan di dalamnya dan ada lebih banyak peluang untuk artefak (bikinan, tidak natural) dan ketidakmungkinan yang harus dibangkitkan AI," tutur Negar Kamali, doktor di bidang ilmu komputer dari Northwestern University di Illinois.

Para peneliti di Massachusetts Institute of Technology dan Northwestern University in Illinois telah mengumpulkan beberapa tip berikut untuk bisa menemukan video deepfake. Sekalipun, mereka mengakui pula kalau tidak ada satu metode yang bisa digunakan untuk semua kasus. Berikut 6 tip untuk bisa mengidentifikasi video-video bangkitan AI:

1. Gerakan mulut dan bibir: Apakah ada momen-momen ketika video dan audio tidak sepenuhnya selaras?

2. Kesalahan anatomis: Apakah wajah atau badan terlihat aneh atau bergerak secara tidak alami?

Deepfake dalam video Nancy Pelosi yang pernah viral. YOUTUBE/CBS/POLITICSWATCHDOG

3. Wajah: Cermati apakah ada inkonsistensi dalam kehalusan wajah atau keriput di sekitar dahi dan pipi, juga tahi lalat.

4. Pencahayaan: Apakah pencahayaan inkonsisten? Apakah bayangan yang ada berperilaku wajar? Perhatikan secara khusus ke arah mata, alis mata, dan kacamata.

5. Rambut pada wajah: Apakah kumis atau janggut terlihat aneh atau bergerak dengan cara yang tak biasa?

6. Kedip mata: Terlalu banyak atau sedikit berkedip bisa jadi tanda deepfake.

KOMPAS.com - Deepfake adalah media sintetis, termasuk gambar, video, dan audio, yang dihasilkan oleh teknologi kecerdasan buatan (AI).

Namun video atau audio tersebut menggambarkan tiruan atau sesuatu yang tidak ada dalam kenyataan maupun kejadian yang belum pernah terjadi.

Dilansir dari laman BBC News UK, dengan menggunakan kecerdasan buatan, deepfake dapat meniru suara dan fitur wajah seseorang.

Istilah deepfake adalah gabungan dari kata deep, yang diambil dari teknologi deep-learning AI, dan fake, yang menyatakan bahwa konten tersebut tidak nyata.

Namun, karena video yang dihasilkan cukup realistis, terkadang sangat sulit untuk mengetahui apakah video deepfake tersebut nyata atau tidak.

Deepfake sering kali digunakan untuk menyebarkan disinformasi, atau menggambarkan informasi palsu yang disebarkan secara sengaja.

Sayangnya, deepfake sering kali dikaitkan dengan motif jahat, termasuk menciptakan misinformasi dan menimbulkan kebingungan.

Bahkan, deepfake telah digunakan untuk merendahkan, mengintimidasi, dan melecehkan banyak pihak, baik masyarakat biasa, selebritas, hingga politisi.

Cara kerja deepfake

Dilansir dari laman Britannica, deepfake diproduksi menggunakan dua algoritma pembelajaran mendalam AI yang berbeda.

Satu algoritma menciptakan replika terbaik dari gambar atau video asli dan yang lainnya mendeteksi apakah replika itu palsu dan, jika memang palsu, melaporkan perbedaan antara replika itu dan aslinya.

Kemudian algoritma pertama menghasilkan gambar sintetis dan menerima umpan balik dari algoritma kedua, lalu menyesuaikannya agar tampak lebih nyata.

Proses ini diulang sebanyak yang diperlukan hingga algoritma kedua tidak mendeteksi adanya citra palsu, sehingga dapat dengan baik meniru suara dan fitur wajah seseorang.

Deepfake dapat meniru gerakan wajah seseorang dari video yang menampilkannya, atau bahkan hanya dari gambar wajahnya.

Dalam video deepfake, suara orang tertentu dapat ditiru dengan memasukkan data audio asli dari orang tersebut ke dalam model AI.

Sehingga memungkinkan deepfake menggunakan rekaman audio suara seseorang untuk membuatnya mengatakan hal-hal yang mungkin tidak pernah dikatakan orang tersebut.

Banyak video atau gambar deepfake yang terlihat sangat aneh, sehingga mudah dikenali sebagai sebuah video palsu atau hoaks. Namun, terkadang deepfake bisa terlihat sangat realistis.

Bisnis.com, JAKARTA — Kementerian Komunikasi dan Informatika (Kemenkominfo) melaporkan telah menurunkan alias melakukan takedown ribuan konten penipuan, termasuk deepfake.

Sayangnya, Kemenkominfo tak mengungkap angka detail terkait aksi takedown tersebut. Namun, Kemenkominfo memastikan ada banyak konten yang diturunkan.

“Kalau angka pastinya saya harus cek datanya, tetapi apakah banyak, mungkin ribuan konten. Ribuan akun atau konten yang di-takedown, baik melalui inisiatif dariKemenkominfo ataupun juga yang langsung dari platform,” kata Direktur Jenderal Informasi dan Komunikasi Publik (IKP) Kemenkominfo Prabunindya Revta Revolusi dalam agenda Ngopi Bareng di Gedung Kemenkominfo, Jakarta, Jumat (13/9/2024).

Kasus teranyar, Prabu bercerita bahwa beberapa hari yang lalu Kemenkominfo telah menurunkan konten di salah satu platform terkait penipuan deepfake. Dia hanya mengungkap akun tersebut memiliki pengikut di kisaran 300.000–400.000 dan telah aktif sejak lama.

“Ada satu orang konglomerat pakai deepfake, menggunakan AI jadi dia ngomong ‘kalau mau kaya silahkan follow akun saya dan daftar di nomor yang ada di bawah ini’, pakai deepfake,” katanya bercerita.

Prabu menuturkan bahwa konten tersebut nampak terlihat asli. Namun, dia mengaku dihubungi langsung oleh sosok konglomerat asli dan menjelaskan bahwa konten tersebut palsu. Alhasil, Kemenkominfo segera melakukantakedownterhadap akun tersebut agar masyarakat tidak tertipu.

“Setelah dicek baru terlihat tidak sesuai lips-nya [bibir] dengan kata-katanya. Jadi dia [aktor] pintar gambarnya medium shot ga close up, makanya nggak kelihatan gerak bibirnya agak sedikit beda. Sudah beberapa bulan akunnya hidup,” ujarnya,

Terkait penurunan konten, Prabu menjelaskan bahwa sejatinya setiap platform juga bisa melakukan moderasi konten. Moderasi konten sendiri merupakan proses meninjau konten daring yang dibuat pengguna guna memastikan kepatuhan terhadap kebijakan platform digital terkait hal-hal yang boleh dan tidak boleh dibagikan di platform, demikian yang dikutip dari TSPA, Jumat (13/9/2024).

Dengan melakukan moderasi konten, lanjut Prabu, maka setiap platform juga bisa melaporkan konten yang terindikasi penipuan kepada Kemenkominfo untuk dilakukantakedown.

“Karena platform juga punya moderasi sendiri, dan mereka juga melaporkan kepada kita akun ataupun konten mana saja yang terindikasi penipuan, untuk di-takedown,” jelasnya.

Berdasarkan catatanBisnis, kasus penipuan deepfake akibat teknologi kecerdasan buatan atau artificial intelligence (AI) telah membuat bank Eropa kehilangan US$35 juta pada 2023. Parahnya lagi, saat ini banyak aplikasi deepfake free atau gratis.

Merujuk blog resmi VIDA, yang dikutip pada Rabu (4/9/2024), deepfake merujuk pada foto, video, dan audio palsu yang direproduksi dari sumber asli menggunakan kecerdasan buatan (AI). Konten deepfake ini tampak nyata dan mirip dengan aslinya.

Mulanya, teknologi deepfake ini banyak digunakan dalam industri hiburan, seperti mengedit suara seseorang untuk bernyanyi. Bahkan, menurut Home Security Heroes, kehadiran video deepfake telah meningkat lebih dari 550% sejak 2019.

Namun, lambat laun video deepfake justru menjadi ancaman. Untuk memerangi deepfake sendiri juga membutuhkan AI yang sama canggihnya. Berdasarkan laporan riset white paper bertajuk ‘Where’s The Fraud: Protecting Indonesian Business from AI-Generated Digital Fraud’ yang dimuat PT Indonesia Digital Identity (VIDA), deepfake yang berasal dari teknologi AI mampu menciptakan video, audio, atau gambar palsu yang realistis untuk menyamar sebagai individu dalam pencurian indentitas dan penipuan.

Deepfake juga menggunakan serangan presentasi (video atau audio palsu) dan serangan injeksi (aliran yang dimanipulasi) untuk melewati pemeriksaan identitas, mengeksploitasi sistem yang tidak memiliki verifikasi berbasis AI dan deteksi keaktifan.

Laporan VIDA mengungkap bahwa dampak dari penipuan deepfake terhadap bisnis di Indonesia membuat 55% bisnis mengalami kehilangan data dan informasi. Serta, 48% kehilangan kemitraan, 46% mengalami gangguan operasional, dan penipuan deepfake berimbas pada reputasi perusahaan sebanyak 45%.

Riset tersebut juga menunjukkan, seiring dengan semakin canggihnya penipu, penipuan peniruan identitas (67%) dan serangan rekayasa sosial atau social engineering alias soceng (42%) menjadi semakin sulit dideteksi.

Dalam kasus lain, penipu juga bisa membuat identitas palsu menggunakan KTP palsu untuk mendapatkan akses ke pinjaman dan kredit.

“Teknologi deepfake memungkinkan pembuatan video yang meyakinkan yang menampilkan seorang CEO yang mengotorisasi transaksi penipuan, sehingga mengarah pada penipuan peniruan identitas,” tulis laporan tersebut.

TEMPO.CO, Jakarta - Kementerian Komunikasi dan Informatika (Kemenkominfo) mengklaim telah menurunkan atau menghapus ribuan akun dan konten deepfake. “Mungkin ribuan konten, ribuan akun atau konten yang di-take down,” kata Direktur Jenderal Informasi dan Komunikasi Publik Kemenkominfo, Prabu Revolusi, di Kantor Kemenkominfo, Jumat, 13 September 2024.

Penghapusan konten dan akun deepfake itu dilakukan baik dari inisiatif Kemenkominfo maupun platform-platform yang kedapatan mengandung konten deepfake.

“Platform juga punya moderasi sendiri dan mereka juga berkoordinasi dengan kami perihal konten atau akun yang terindikasi penipuan untu di-take down,” katanya.

Melansir Antara, Kemenkominfo berkomitmen mendukung Komisi Pemilihan Umum (KPU) menjaga perhelatan Pemilihan Kepala Daerah (Pilkada) serentak 2024 damai dan terhindar dari risiko deepfake.

Staf Ahli Menteri Komunikasi dan Informatika bidang Sosial, Ekonomi, dan Budaya Wijaya Kusumawardhana mengatakan pihaknya dapat membantu KPU untuk melacak, mendalami, hingga menangani konten deepfake politik yang bisa menimbulkan perpecahan saat Pilkada serentak 2024.

"Kalau ada permasalahan penyalahguna teknologi, khususnya seperti deepfake atau hal yang lainnya tentu kita kan membantu. Membantu apa? Membantu KPU untuk menemukan di mana dan siapa yang melakukan itu," kata Wijaya kepada wartawan di Jakarta, Senin, 9 September 2024.

Deepfake adalah salah satu bentuk konten yang diciptakan menggunakan kecerdasan artifisial (artificial intelligence/AI), acapkali berupa video atau audio yang disunting membuat sosok palsu terlihat seakan nyata seperti aslinya dan kerap digunakan untuk penipuan yang tentunya merugikan masyarakat.

Platform verifikasi identitas asal Inggris, Sumsub, dalam laporannya "Identity Fraud Report 2023" mengungkap kasus deepfake untuk Asia Pasifik di 2023 mengalami peningkatan sebesar 1.530 persen dari 2022.

TEMPO.CO, Jakarta - Kementerian Komunikasi dan Informatika (Kemenkominfo) mengklaim telah menurunkan atau menghapus ribuan akun dan konten deepfake. “Mungkin ribuan konten, ribuan akun atau konten yang di-take down,” kata Direktur Jenderal Informasi dan Komunikasi Publik Kemenkominfo, Prabu Revolusi, di Kantor Kemenkominfo, Jumat, 13 September 2024.

Penghapusan konten dan akun deepfake itu dilakukan baik dari inisiatif Kemenkominfo maupun platform-platform yang kedapatan mengandung konten deepfake.

“Platform juga punya moderasi sendiri dan mereka juga berkoordinasi dengan kami perihal konten atau akun yang terindikasi penipuan untu di-take down,” katanya.

Melansir Antara, Kemenkominfo berkomitmen mendukung Komisi Pemilihan Umum (KPU) menjaga perhelatan Pemilihan Kepala Daerah (Pilkada) serentak 2024 damai dan terhindar dari risiko deepfake.

Staf Ahli Menteri Komunikasi dan Informatika bidang Sosial, Ekonomi, dan Budaya Wijaya Kusumawardhana mengatakan pihaknya dapat membantu KPU untuk melacak, mendalami, hingga menangani konten deepfake politik yang bisa menimbulkan perpecahan saat Pilkada serentak 2024.

"Kalau ada permasalahan penyalahguna teknologi, khususnya seperti deepfake atau hal yang lainnya tentu kita kan membantu. Membantu apa? Membantu KPU untuk menemukan di mana dan siapa yang melakukan itu," kata Wijaya kepada wartawan di Jakarta, Senin, 9 September 2024.

Deepfake adalah salah satu bentuk konten yang diciptakan menggunakan kecerdasan artifisial (artificial intelligence/AI), acapkali berupa video atau audio yang disunting membuat sosok palsu terlihat seakan nyata seperti aslinya dan kerap digunakan untuk penipuan yang tentunya merugikan masyarakat.

Platform verifikasi identitas asal Inggris, Sumsub, dalam laporannya "Identity Fraud Report 2023" mengungkap kasus deepfake untuk Asia Pasifik di 2023 mengalami peningkatan sebesar 1.530 persen dari 2022.

Jakarta: Seiring dengan pesatnya perkembangan dunia digital, risiko yang menyertainya juga semakin meningkat. Saat ini, adopsi digital semakin masif terjadi di Indonesia, muncul pertanyaan penting: bagaimana kita bisa melindungi identitas dan transaksi jutaan pengguna?

Sati Rasuanto, Co-founder dan Presiden Vida, berbagi pandangannya tentang pentingnya membangun kepercayaan dalam ekonomi digital. Bagi Sati, kepercayaan bukan hanya soal mengamankan data, tapi juga memastikan bahwa semua orang, di mana pun mereka berada, memiliki akses ke layanan digital yang aman.

Di Indonesia, dengan populasi lebih dari 270 juta jiwa yang tersebar di ribuan pulau, tantangan inklusi digital sangatlah besar. Masih banyak orang yang belum memiliki akses ke layanan digital yang aman, sehingga menciptakan kesenjangan yang signifikan.
"Misi Vida adalah menjembatani kesenjangan ini dengan menawarkan solusi identitas digital yang aman dan dapat diakses oleh semua kalangan. Ini bukan hanya soal teknologi; namun juga tentang memberdayakan masyarakat untuk ikut serta dalam ekonomi digital," ungkap Sati

Sati menjelaskan lebih dalam mengenai bagaimana Vida menghadapi tantangan teknis dan regulasi di dunia digital yang penuh risiko, mulai dari pencurian identitas hingga pelanggaran data. Sati juga menyoroti pentingnya kolaborasi dengan regulator untuk memastikan bahwa solusi Vida bukan hanya canggih secara teknis, tetapi juga sepenuhnya sesuai dengan hukum di Indonesia dan internasional.

Dengan semakin banyaknya aktivitas yang berpindah ke dunia digital, kebutuhan akan solusi identitas digital yang aman dan andal semakin mendesak. Di banyak bagian dunia, termasuk Indonesia, kesenjangan digital membuat jutaan orang rentan menghadapi penipuan dan sulit mengakses layanan penting.

"Inilah masalah yang ingin diatasi oleh Vida. Dengan menyediakan platform identitas digital yang mulus, aman, dan inklusif, Vida memastikan bahwa setiap orang dapat berpartisipasi dengan aman dalam ekonomi digital," lanjutnya.

Pendekatan Vida menggabungkan keamanan tingkat tinggi dengan aksesibilitas. Tidak seperti perusahaan lain yang mungkin hanya fokus pada aspek teknologi, Vida menempatkan perhatian yang sama pada kemudahan penggunaan dan akses yang luas.

Kepemimpinan Sati dinilai berperan penting dalam membentuk pendekatan ini, yang menempatkan keamanan dan pengalaman pengguna sebagai prioritas. Dengan membuat keamanan canggih yang dapat diakses oleh semua orang, tidak hanya melindungi pengguna, tetapi juga memberdayakan mereka.

Kisah Vida di bawah kepemimpinan Sati Rasuanto merupakan kisah inovasi, ketahanan, dan komitmen untuk menciptakan dunia digital yang lebih aman bagi semua orang. Sekaligus cerita tentang pentingnya membangun kepercayaan di era digital yang terus berkembang.

(MMI)