Bisnis.com, JAKARTA - Rancangan undang-undang kecerdasan buatan (AI) SB 1047 mendapat penolakan dari Gubernur California (Amerika Serikat) Gavin Newsom. Dia ragu regulasi tersebut mampu melindungi masyarakat dari ‘kerusakan kritis’.

Safe and Secure Innovation for Frontier Artificial Intelligence Models Act atau SB 1047 adalah undang-undang yang awalnya ditujukan untuk "memitigasi risiko bahaya besar dari model AI yang sangat maju sehingga belum diketahui keberadaannya".

Majelis negara bagian California meloloskan undang-undang tersebut dengan margin 41-9 pada 28 Agustus, tetapi beberapa organisasi termasuk Kamar Dagang mendesak Newsom untuk memveto RUU tersebut.

Dalam pesan vetonya pada 29 September, Newsom mengatakan RUU tersebut "bermaksud baik" tetapi "tidak memperhitungkan apakah sistem AI digunakan di lingkungan berisiko tinggi, melibatkan pengambilan keputusan kritis, atau penggunaan data sensitif.

"Sebaliknya, RUU tersebut menerapkan standar yang ketat bahkan untuk fungsi yang paling dasar - selama sistem besar menggunakannya," kata Newsom dalam pesan vetonya, Senin (30/9/2024).

Newsom juga menulis bahwa dirinya meragukan regulasi tersebut merupakan pendekatan terbaik untuk melindungi masyarakat dari ancaman nyata yang ditimbulkan oleh teknologi.

Diketahui, SB 1047 akan mewajibkan pengembang model AI bertanggung jawab atas penerapan protokol keselamatan, termasuk tindakan pencegahan seperti pengujian dan penilaian risiko eksternal, serta "penghentian darurat" yang akan sepenuhnya menghentikan model AI jika terjadi sesuatu yang tak diinginkan atau sebelum terjadi.

Regulasi tersebut juga menerapkan sanksi denda bagi korporasi pembuat dan pengguna AI. Pelanggaran pertama dalam UU ini akan dikenakan biaya minimal US$10 juta (Rp151 miliar) dan $30 juta (Rp454 miliar)untuk pelanggaran berikutnya.

Namun, RUU tersebut direvisi untuk menghilangkan kemampuan jaksa agung negara bagian untuk menuntut perusahaan AI dengan praktik lalai jika peristiwa bencana tidak terjadi. Perusahaan hanya akan dikenakan ganti rugi dan dapat dituntut jika model mereka menyebabkan kerugian kritis.

Undang-undang ini akan berlaku untuk model AI yang menghabiskan biaya sedikitnya US$100 juta. Undang-undang ini juga akan mencakup proyek turunan dalam kasus di mana pihak ketiga telah menginvestasikan $10 juta atau lebih dalam pengembangan atau modifikasi model asli.

Engadget melaporkan setiap perusahaan yang menjalankan bisnis di California akan tunduk pada aturan tersebut jika memenuhi persyaratan lainnya.

Versi awal SB 1047 akan membentuk departemen baru yang disebut Divisi Model Perbatasan untuk mengawasi dan menegakkan aturan. Sebaliknya, RUU tersebut diubah sebelum pemungutan suara komite untuk menempatkan tata kelola di tangan Dewan Model Perbatasan dalam Badan Operasi Pemerintah.

Sembilan anggota akan ditunjuk oleh gubernur dan badan legislatif negara bagian.

RUU tersebut menghadapi jalan yang rumit hingga pemungutan suara terakhir.

TechCrunch melaporkan bahwa Senator Negara Bagian California Scott Wiener khawatir dengan teknologi baru. AS, kata Scott, punya sejarah dengan teknologi yang berdampak buruk ke masyarakat.

"Jangan menunggu sesuatu yang buruk terjadi. Mari kita hadapi saja."

Peneliti AI terkemuka Geoffrey Hinton dan Yoshua Bengio mendukung undang-undang tersebut, begitu pula Center for AI Safety, yang telah menyuarakan kewaspadaan tentang risiko AI selama setahun terakhir.

Bisnis.com, JAKARTA - Uni Eropa merilis teks final dari undang-undangkecerdasan buatan (AI). Regulasi tersebut mengatur beberapa hal termasuk risiko dan sanksi bagi pengembang seperti OpenAI, Google, Microsoft dan lain sebagainya.

Techcrunch melaporkan terhitung 1 Agustus, undang-undang baru tersebut akan mulai berlaku dan dalam waktu 24 bulan – atau pada pertengahan 2026 – ketentuan-ketentuannya secara umum akan berlaku sepenuhnya pada pengembang AI. Uni Eropa menerapkan pendekatan bertahap terkait UU AI.

Para anggota parlemen Uni Eropa mencapai kesepakatan politik mengenai buku peraturan komprehensif pertama mengenai AI pada Desember 2023.

Kerangka kerja ini memberikan kewajiban yang berbeda-beda kepada pengembang AI, bergantung pada kasus penggunaan dan risiko yang dirasakan. Sebagian besar penggunaan AI tidak akan diatur karena dianggap berisiko rendah namun sejumlah kecil potensi kasus penggunaan AI dilarang berdasarkan undang-undang.

UU AI juga membagi kasus pemanfaatan berdasarkan risiko. Untuk kasus penggunaan AI berisiko tinggi – seperti penggunaan biometrik AI, atau AI yang digunakan dalam penegakan hukum, pekerjaan, pendidikan, dan infrastruktur penting – diperbolehkan berdasarkan undang-undang.

Pengembang dengan risiko tinggi wajib menjaga kualitas data dan tidak boleh bias karena membahayakan pengguna. Sementara itu, untuk tingkat risiko ringan seperti chatbot AI, pengembang harus transparan dalam mengambil data.

Bagi pembuat model AI tujuan umum (GPAI), seperti GPT OpenAI, teknologi yang mendasari ChatGPT, terdapat juga beberapa persyaratan transparansi. GPAI yang paling kuat, yang umumnya ditetapkan berdasarkan ambang batas komputasi, juga dapat diminta untuk melakukan penilaian risiko sistemik.

Implementasi Bertahap

Uni Eropa akan memberlakukan daftar penggunaan AI yang dilarang 6 bulan setelah undang-undang tersebut berlaku – yaitu pada awal tahun 2025.

Kasus penggunaan AI yang dilarang atau yang disebut sebagai “risiko yang tidak dapat diterima”, akan segera menjadi ilegal mencakup penilaian kredit sosial gaya China; pengumpulan database pengenalan wajah dengan menggores Internet atau CCTV tanpa sasaran; penggunaan biometrik jarak jauh secara real-time oleh penegak hukum di tempat umum kecuali jika ada beberapa pengecualian yang berlaku, seperti saat pencarian orang hilang atau diculik.

Kemudian, 9 bulan setelah diberlakukan – yaitu sekitar bulan April 2025 – kode praktik akan berlaku bagi pengembang aplikasi AI dalam cakupannya.

Kantor AI UE, sebuah badan pembangunan ekosistem dan pengawasan yang dibentuk berdasarkan undang-undang, bertanggung jawab untuk menyediakan kode-kode ini.

Menurut laporan Euractiv awal bulan ini, UE sedang mencari perusahaan konsultan untuk merancang peraturan tersebut, sehingga memicu kekhawatiran dari masyarakat sipil bahwa pelaku industri AI akan dapat mempengaruhi bentuk peraturan yang akan diterapkan pada mereka.

Baru-baru ini, MLex melaporkan bahwa Kantor AI akan meluncurkan seruan untuk menyatakan minat kepada pemangku kepentingan terpilih untuk merancang kode praktik model AI tujuan umum menyusul tekanan dari Parlemen Eropa untuk menjadikan prosesnya inklusif.

Batas waktu penting lainnya jatuh pada 12 bulan setelah berlakunya – atau 1 Agustus 2025 – ketika peraturan undang-undang tentang GPAI yang harus mematuhi persyaratan transparansi akan mulai berlaku.

Sejumlah sistem AI berisiko tinggi telah diberikan batas waktu kepatuhan yang paling lama, dengan waktu 36 bulan setelah diberlakukan – hingga tahun 2027 – memungkinkan sistem tersebut memenuhi kewajibannya. Sistem berisiko tinggi lainnya harus mematuhinya lebih cepat, setelah 24 bulan.