Sumber: Reuters | Editor: Syamsul Azhar

KONTAN.CO.ID - JAKARTA. Saham Nebius Group, perusahaan infrastruktur AI yang baru saja dibentuk dari pemisahan aset Yandex, anjlok 26% pada hari pertama perdagangannya di Nasdaq pada Senin.

Perdagangan saham Nebius sempat tertunda sejak invasi Rusia ke Ukraina pada Februari 2022. Nebius muncul setelah kesepakatan pemisahan aset senilai US$ 5,4 miliar antara Yandex, yang sering disebut "Google Rusia", menjadi dua perusahaan terpisah: Nebius yang fokus pada pasar internasional dan perusahaan Rusia yang tetap berada di bawah kendali Yandex.

Pada penutupan perdagangan, saham Nebius turun 24,4% ke US$ 14,44 per saham, jauh lebih rendah dari harga terakhirnya pada Februari 2022, yaitu US$ 18,94 per saham.

Nebius, yang menargetkan pasar AI cloud yang terus berkembang, memiliki struktur kepemilikan yang berbeda dengan Yandex. Sebanyak 78,1% saham Nebius dimiliki oleh investor dan dana Barat, yang diduga menjadi penyebab volatilitas tinggi pada hari pertama perdagangannya.

Denis Buivolov, seorang investor pribadi di Nebius dan kepala penelitian di departemen modal ventura dan pra-IPO BCS, memperkirakan nilai Nebius mencapai US$ 4,6 miliar atau US$ 23 per saham berdasarkan rencana perusahaan dan perbandingan dengan perusahaan serupa seperti CoreWeave, Lambda Labs, dan Sacra.

Nebius memproyeksikan pendapatannya akan meningkat tiga hingga empat kali lipat pada tahun 2025 menjadi US$ 500 juta hingga US$ 700 juta. Perusahaan berencana untuk mengalokasikan antara US$ 600 juta hingga US$ 1,5 miliar untuk belanja modal guna meningkatkan kapasitas pusat data di Finlandia, Prancis, dan Amerika Utara.

Jakarta: Tim Riset Yandex, bekerja sama dengan para peneliti dari Institute of Science and Technology Austria, NeuralMagic, dan KAUST, berhasil mengembangkan dua metode kompresi inovatif untuk large language model (LLM): Additive Quantization of Language Models (AQLM) dan PV-Tuning. Jika digabungkan, metode-metode ini memungkinkan pengurangan ukuran model hingga 8 kali lipat sekaligus mempertahankan kualitas respons hingga 95%.

Metode-metode ini bertujuan untuk mengoptimalkan sumber daya dan meningkatkan efisiensi dalam menjalankan model bahasa yang besar. Artikel penelitian yang merinci pendekatan ini telah ditampilkan di International Conference on Machine Learning (ICML) yang saat ini sedang berlangsung di Wina, Austria.

Fitur utama AQLM dan PV-Tuning
Sistem AQLM memanfaatkan pendekatan kuantisasi aditif atau pendekatan dalam memetakan himpunan besar menjadi himpunan kecil untuk melakukan kompresi LLM. Pendekatan ini sesungguhnya secara tradisional biasa digunakan untuk pengambilan informasi.
Metode yang dihasilkan mampu mempertahankan dan bahkan meningkatkan akurasi model di bawah kompresi ekstrem, sehingga memungkinkan pemanfaatan LLM pada perangkat sehari-hari seperti komputer di rumah dan smartphone. Bahkan penggunaan memori bisa berkurang secara signifikan.

PV-Tuning mengatasi kesalahan yang mungkin timbul selama proses kompresi model. Apabila digabungkan, AQLM dan PV-Tuning memberikan hasil yang optimal sehingga model mampu memberikan respons berkualitas tinggi, bahkan pada sumber daya penyimpanan yang terbatas.

Evaluasi dan pengenalan metode
Penilaian atau asesmen atas efektivitas metode ini dilakukan secara ketat menggunakan model-model sumber terbuka yang populer seperti Llama 2, Llama 3, Mistral, dan lainnya.

Para peneliti melakukan kompresi atas LLM ini dan mengevaluasi kualitas jawaban yang dihasilkan berdasarkan tolok ukur bahasa Inggris - WikiText2 dan C4 - dan hasilnya menunjukkan bahwa metode ini mampu mempertahankan kualitas jawaban 95% secara mengesankan karena model-model tersebut dikompresi sebanyak 8 kali.

Siapa yang bisa mengambil manfaat dari AQLM dan PV-Tuning?
Metode baru ini menawarkan penghematan sumber daya yang substansial bagi perusahaan yang terlibat dalam pengembangan dan penggunaan model bahasa berpemilik maupun LLM sumber terbuka. Sebagai contoh, model Llama 2 dengan 13 miliar parameter, setelah dikompresi, kini dapat berjalan hanya dengan 1 GPU, bukan 4 GPU.

Dengan demikian, biaya perangkat keras bisa dikurangi hingga 8 kali lipat. Ini berarti bahwa perusahaan rintisan, peneliti perorangan, dan penggemar LLM dapat menjalankan LLM tingkat lanjut seperti Llama di komputer mereka sehari-hari.

Menjelajahi aplikasi LLM baru
AQLM dan PV-Tuning memungkinkan untuk menggunakan model pada perangkat dengan sumber daya penyimpanan yang terbatas, sehingga memungkinkan penggunaan dan aplikasi baru seperti smartphone, speaker canggih, dan berbagai perangkat sehari-hari lainnya.

Dengan LLM canggih yang terintegrasi di dalamnya, pengguna dapat menggunakan pembuatan teks dan gambar, bantuan suara, rekomendasi yang bisa dipersonalisasi, dan bahkan terjemahan bahasa secara real-time - semuanya tanpa memerlukan koneksi internet aktif.

Selain itu, model yang dikompresi menggunakan metode ini dapat beroperasi hingga 4 kali lebih cepat, karena memerlukan lebih sedikit komputasi.

Implementasi dan aksesPara pengembang dan peneliti di seluruh dunia sudah dapat menggunakan AQLM dan PV-Tuning, yang tersedia di GitHub. Materi pelatihan yang disediakan oleh penulis memberikan panduan dalam mempelajari LLM yang dikompresi secara efektif untuk berbagai aplikasi. Selain itu, para pengembang dapat mengunduh model-model sumber terbuka populer yang telah dikompresi menggunakan metode-metode tersebut.

Sebuah artikel ilmiah dari Yandex Research tentang metode kompresi AQLM telah ditampilkan di ICML, salah satu konferensi pembelajaran mesin paling bergengsi di dunia. Ditulis bersama dengan para peneliti dari IST Austria dan para ahli dari perusahaan rintisan AI Neural Magic, karya ini menandakan kemajuan yang signifikan dalam teknologi kompresi LLM.

(MMI)

Sumber: Reuters | Editor: Syamsul Azhar

KONTAN.CO.ID - JAKARTA. Arkady Volozh, mantan CEO Yandex kini menggarap bisnis baru bidang teknologi kecerdasan buatan atau artificial intelligence (AI)

Kepastian ini setelah ada kesepakatan untuk membagi aset raksasa teknologi Rusia Yandex selesai minggu ini. Kesepakatan dicapai setelah hampir dua tahun negosiasi.

Sebagian besar bisnis yang menghasilkan pendapatan Yandex, tetap berada di Rusia.

Sementara mantan CEO Yandex Arkady Volozh kembali memimpin grup baru yang berfokus pada bisnis Artificial Intelligence (AI) di luar negeri.

Nebius perusahaan berbasis di Belanda, yang didirikan oleh Arkady Volozh dan berkantor pusat di Amsterdam, berharap dapat memanfaatkan meningkatnya kebutuhan akan infrastruktur yang mendukung ambisi AI di pasar global.

Sementara Yandex akan mengembangkan layanan yang ada secara mandiri di Rusia.

Berikut ini beberapa fakta tentang Volozh dan bisnisnya:

ARKADY VOLOZH

Pernah menjadi kesayangan dunia internet Rusia.

Volozh ikut mendirikan Yandex pada tahun 1997 selama booming dotcom global. Pada akhirnya ia menciptakan sebuah perusahaan yang akan mendominasi pasar mesin pencarian online Rusia.

Yandex berhasil terdaftar di Nasdaq dan pada suatu saat pernah mencapai kapitalisasi pasar sekitar US$ 30 miliar.

Volozh adalah ahli matematika Bersama ahli geofisika Ilya Segalovich meluncurkan Yandex, pendapatannya masih di bawah $100.000.

Lalu Volozh meninggalkan Rusia pada tahun 2014 dan menetap di Israel.

Ia menyadari bahwa beberapa layanan, seperti mobil tanpa pengemudi, dapat dikembangkan lebih baik di luar negeri.

Setelah 25 tahun menjabat CEO Yandex, ia mengundurkan diri pada Juni 2022 setelah perusahaan ini mendapat sanksi dari Uni Eropa akibat invasi Rusia ke Ukraina.

Sanksi Uni Eropa tersebut telah dicabut pada Maret 2024.

Dia mendapat kritik karena tidak bersuara lebih cepat dan lebih tegas menentang tindakan Rusia di Ukraina.

Pada Agustus 2023, ia mengutuk invasi tersebut sebagai tindakan yang "biadab" dan menggambarkan dirinya sebagai "pengusaha teknologi Israel kelahiran Kazakhstan".

Kritiknya terhadap perang membuatnya mendapat perhatian pribadi dari Presiden Vladimir Putin.

Walhasil ancaman yang lebih besar terhadap keamanannya dan risiko gagalnya kesepakatan pemisahan senilai US$ 5,4 miliar.

KELOMPOK NEBIUS

Pada hari Selasa (16/7), Volozh meluncurkan Nebius Group.

Ia berharap Nebius akan menjadi penyedia infrastruktur dan layanan Eropa terkemuka bagi pengembang AI di seluruh dunia.

Perusahaan ini mengklaim memiliki lebih dari 1.000 insinyur AI dengan pengalaman membangun infrastruktur AI, serta pusat data di Finlandia.

Nebius berencana membangun kapasitas ratusan megawatt untuk melayani klien yang mengembangkan solusi AI.

Selain itu, grup Nebius juga mencakup mitra data Toloka AI, bisnis teknologi pendidikan TripleTen, dan unit self-driving Avride, yang berbasis di Austin, Texas. Untuk bisnis tersebut, Nebius mungkin mencari investasi eksternal.

Nebius memiliki total uang tunai sekitar U$ 2,5 miliar dan tidak memiliki utang, setelah pemisahan dari Yandex.

Perusahaan ini juga mengikuti listing Yandex untuk di Nasdaq dan berharap perdagangan akan dilanjutkan di sana akhir tahun ini.

“Selama enam hingga sembilan bulan ke depan kami yakin Nebius dapat mencapai ARR (pendapatan berulang tahunan) sekitar US$ 200 juta,” kata Nebius.

YANDEX DI RUSIA

Yandex kini dimiliki oleh konsorsium investor Rusia, sehingga memberi Kremlin potensi kendali yang lebih baik atas ruang internet Rusia.

Yandex dibeli oleh konsorsium yang terdiri dari manajemen senior Yandex Rusia, sebuah dana yang dikendalikan oleh perusahaan minyak besar Lukoil dan tiga perusahaan lain yang dimiliki oleh pengusaha Alexander Chachava, Pavel Prass, dan Alexander Ryazanov.

Pemilik baru Yandex memperolehnya dengan harga diskon besar, berkat Moskow yang memeras dana dari perusahaan asing yang keluar.

Sering dijuluki "Google-nya Rusia", Yandex menjadi pemain terkemuka dalam periklanan online di Rusia dan mengembangkan layanan lain, termasuk layanan ride-hailing, pesan-antar makanan, e-commerce, cloud, dan usaha AI sendiri.

Beberapa layanan Yandex tersedia di pasar lain, namun seberapa luas layanan tersebut dapat diperluas secara internasional masih harus dilihat, mengingat status paria Rusia di Barat.

Perdagangan di Yandex di Rusia dengan ticker YDEX baru akan dimulai pada 24 Juli.