Bisnis.com, JAKARTA - Pemerintah Amerika Serikat menyiapkan teknologi yang dapat mendeteksi risiko data berbahaya dalam model kecerdasan buatan (AI). Teknologi ini membantu kinerja AI lebih optimal sebab dapat menyaring data-data yang digunakan untuk pelatihan model AI.

Institut Standar dan Teknologi Nasional (NIST), lembaga Departemen Perdagangan AS, sedang mengembangkan dan menguji teknologi yang dapat mengukur seberapa berbahaya serangan yang “meracuni” data pelatihan model AI, yang berdampak menurunkan kinerja sistem AI.

Teknologi yang diketahui bernama Dioptra ini nantinya akan digunakan oleh pemerintah AS, perusahaan, dan masyarakat luas.

Dioptra berupaya membantu perusahaan melatih model AI, dengan membantu menilai, menganalisis, dan melacak risiko AI. Dioptra dapat digunakan untuk melakukan benchmark dan meneliti model serta menyediakan platform umum untuk mengekspos model terhadap ancaman.

“Perangkat lunak ini dapat membantu masyarakat, termasuk lembaga pemerintah dan usaha kecil dan menengah, melakukan evaluasi untuk menilai klaim pengembang AI tentang kinerja sistem mereka.”,” tulis NIST dikutip, Senin (29/7/2024).

TechCrunch melaporkan NIST dan AI Safety terus berupaya mengurangi beberapa bahaya AI, seperti penyalahgunaan untuk menghasilkan pornografi non-konsensual . Hal ini menyusul peluncuran Inspect dari AI Safety Institute Inggris, sebuah perangkat serupa yang bertujuan menilai kemampuan model dan keamanan model secara keseluruhan.

AS dan Inggris mempunyai kemitraan berkelanjutan untuk bersama-sama mengembangkan pengujian model AI tingkat lanjut, yang diumumkan pada KTT Keamanan AI Inggris di Bletchley Park pada bulan November 2023.

Dioptra juga merupakan produk dari perintah eksekutif (EO) Presiden Joe Biden tentang AI , yang mengamanatkan agar NIST membantu pengujian sistem AI.

Selain Amerika Serikat, Kanada juga menaruh perhatian kuat dalam pengembangan AI.

Pemerintah Kanada berkomitmen mengalokasikan dana sebesar US$1,76 miliar atau Rp27,8 triliun dari anggaran federalnya untuk memperkuat sektor kecerdasan buatan dan menjaga Kanada untuk tetap bersaing dalam bidang AI.

Langkah tersebut diumumkan bersamaan dengan pengenalan kebijakan-kebijakan baru, yang mencakup investasi dalam startup terkait kecerdasan buatan, bisnis menengah, dan perusahaan riset untuk "mengamankan keunggulan AI Kanada.

Perdana Menteri Kanada Justin Trudeau mengatakan bahwa dampak positif akan dirasakan Kanada dari pengembangan pesat dalam kecerdasan buatan generatif.

“Kemajuan pesat AI generatif saat ini akan membuka potensi ekonomi yang sangat besar bagi Kanada, meningkatkan produktivitas secara signifikan, dan mengurangi waktu yang harus dihabiskan pekerja untuk melakukan tugas yang berulang-ulang,” ujarnya.

Melansir dari Reuters Senin (8/4/2024), kebijakan tersebut nantinya akan mengalokasikan investasi sebesar US$1,47 miliar untuk membangun serta memberikan akses terhadap kemampuan komputasi dan infrastruktur teknologi bagi para peneliti, perusahaan rintisan, dan pengembangan kecerdasan buatan Kanada.

Sejumlah tambahan dana sebesar US$147 juta akan dialokasikan untuk startup kecerdasan buatan di sektor teknologi bersih, kesehatan, pertanian, dan manufaktur, sementara $73,5 juta lainnya akan diberikan kepada perusahaan skala menengah dan kecil di bidang kecerdasan buatan untuk meningkatkan produktivitas.

Dana tersebut juga akan ditujukan untuk para pekerja yang mungkin terkena dampak AI, yang akan menerima hingga US$36,8 juta di bawah Program "Sectoral Workforce Solutions" Kanada untuk pelatihan ulang dan keterampilan ulang di berbagai industri yang berbeda.