Bisnis.com, JAKARTA – Otoritas Jasa Keuangan (OJK) dan Bank Indonesia (BI) mengingatkan penerapan teknologi kecerdasan buatan (artificial intelligence/AI) memiliki sejumlah tantangan meski dinilai mampu meningkatkan efisiensi dalam bisnis di industri keuangan, termasuk perbankan.

Kepala Eksekutif Pengawas Lembaga Pembiayaan, Perusahaan Modal Ventura, Lembaga Keuangan Mikro dan Lembaga Jasa Keuangan Lainnya (PVML) OJK Agusman menyoroti soal keamanan data dan privasi.

“Risiko-risiko yang akan kita hadapi kalau kita gagal menjaga keamanan data dan privasi ini. Serangan siber, risiko kebohongan data akan berdampak pada kredibilitas kita semua,” ujarnya dalam Banking AI Day, Senin (9/9/2024).

Selain itu, tantangan utama dalam penerapan AI terkait kepatuhan, di mana sistem AI dapat memastikan kepatuhan terhadap berbagai aturan, regulasi, dan standar yang ada.

Menurutnya, regulasi yang berkaitan dengan AI perlu adaptif dan progresif agar dapat mengikuti perkembangan teknologi tanpa menghambat inovasi. Selain itu tantangan yang juga perlu dihadapi dengan baik adalah masalah etika.

“Karena apa? Etika ini akan memastikan bahwa kita bisa membuat publik semakin percaya bahwa AI ini justru membuat kita lebih bertanggung jawab terhadap perkembangan teknologi informasi maupun sektor keuangan secara keseluruhan ke depan,” ujar Agusman.

Pada saat yang sama, Deputi Gubernur Senior Bank Indonesia (BI) Destry Damayanti mengatakan selain soal keamanan data pribadi. Menurutnya, AI akan sangat tergantung dari data dan informasi yang diperoleh yang pada akhirnya mempengaruhi hasil interpretasi.

“Sehingga kalau datanya salah, walaupun apalagi banyak data besar, nah ini tentunya akan membuat juga interpretasi yang menjadi berbeda,” ucapnya.

Dia juga menggambarkan, salah satu risiko yang sering muncul ketika pihaknya mekakukan stabilitas sistem keuangan adalah meningkatnya konsentrasi risiko default akibat keterhubungan yang semakin erat antar lembaga keuangan.

Sebagai contoh, penggunaan robo-advisory secara masif dengan algoritma serupa dapat memicu perilaku "herding" alias meniru di antara lembaga keuangan, yang mengarah pada risiko yang terkonsentrasi pada satu titik.

Tak hanya itu, kompleksitas dari produk keuangan yang terus meningkat, itu juga dapat meningkatkan kerentanan kepada nasabah, karena nasabah semakin sulit memahami karakteristik dan risiko pada produk keuangan yang kompleks. “Jadi, jangan segan untuk terus melakukan pengujian dan simulasi secara menyeluruh,” ujar Destry.

Alhasil, penting bagi para pemain di lembaga jasa keuangan untuk menyesuaikan berbagai risiko yang ada. Misalnya, dengan memastikan keamanan data, yakni menggunakan enskripsi data, firewall, atau lainnya.

Selain itu, penting untuk melakukan audit secara rutin, serta mengatasi bias yang mungkin muncul dalam algoritma, terutama ketika menggunakan data yang beragam agar hasil yang dihasilkan lebih adil dan akurat.

“Kemudian juga terkait dengan kepatuhan regulasi dengan terus melakukan update atas regulasi yang berkaitan dengan penggunaan AI dan juga mitigasi risiko operasional,” tandas Destry.