Meta, perusahaan asal AS, mengumumkan model open-weight “Muse Spark Open” pada Kamis waktu setempat. Model ini memiliki 816 miliar parameter dan jendela konteks 1 juta token, serta dirancang untuk dijalankan secara lokal di komputer Apple. Model ini sudah mulai tersedia melalui beberapa platform API.
Bisa Berjalan di Mac, tetapi Belum Tentu di Mac yang Anda Miliki
Mendengar istilah “AI yang berjalan di Mac”, kita mungkin membayangkan bisa mengunduhnya ke laptop yang sedang digunakan lalu mencobanya. Namun, kali ini situasinya tidak sesederhana itu. Menurut laporan, untuk menjalankan model sebesar 816 miliar parameter secara lokal dibutuhkan setidaknya 1 TB memori. Angka itu berada satu tingkat di atas kapasitas memori laptop pada umumnya.
Lingkungan yang disebut paling ideal adalah Mac Studio yang dilengkapi chip M5 Ultra. Alih-alih menawarkan kemudahan, model ini lebih tepat dipandang sebagai pilihan untuk menangani model raksasa di perangkat yang ada di meja sendiri, tanpa menitipkannya ke cloud.
Meski begitu, fakta bahwa pilihan ini tersedia bukan hal sepele. Selama ini, model-model superbesar berada di balik pusat data. Kini, model semacam itu mulai hadir dalam jangkauan komputer desktop. Persyaratan untuk menjalankannya memang tinggi, tetapi arah perkembangannya patut diperhatikan.
Dari AI yang Menulis Kode ke AI yang Memahami Video
Muse Spark Open dirancang secara multimodal secara native, sehingga dapat menangani gambar dan jenis konten lainnya. Model ini dibuat untuk tugas pengodean yang rumit serta pekerjaan berbasis agen. Pekerjaan berbasis agen berarti AI tidak hanya menjawab pertanyaan sekali lalu selesai, tetapi menyusun sendiri beberapa langkah untuk menuntaskan tugas.
Meta menjelaskan bahwa model ini dipadukan dengan terminal AI untuk pengodean miliknya, “Muse Code”, dan digunakan dalam berbagai alur kerja berbasis agen. Salah satu contohnya adalah pekerjaan memperbaiki klien jejaring sosial terdesentralisasi Mastodon. Meta menyatakan bahwa model tersebut menangani seluruh proses, mulai dari memperbaiki bug dan menambahkan fitur baru hingga melakukan build.
Model ini juga digunakan untuk mengoperasikan perangkat lunak penyunting video “DaVinci Resolve”, termasuk memeriksa materi dan melakukan crop (pemotongan). Dari dunia kode hingga perangkat penyuntingan video profesional, penggunaan AI untuk mengoperasikan aplikasi di layar terus meluas.
Yang menurut saya menarik, kedua contoh ini sama-sama melibatkan pekerjaan di desktop. AI yang semula menjawab melalui jendela obrolan kini berkembang menjadi AI seperti rekan kerja yang bekerja di depan komputer. Mungkin di sinilah letak tujuan di balik fokus pada penggunaan lokal di Mac.
Nilai Open-Weight Tak Bisa Diukur dari Performa Saja
Berdasarkan hasil evaluasi yang dipublikasikan, Meta mengklaim bahwa performa model ini melampaui model-model open-weight utama lainnya. Meta juga menyebutnya sebagai model open-weight dengan performa tertinggi di AS.
Namun, arti penting model open-weight tidak bisa dijelaskan hanya lewat tabel peringkat. Bobotnya—yakni isi model yang telah dilatih—dipublikasikan. Karena itu, model open-weight dinilai berpotensi lebih unggul dari segi biaya dibandingkan model tertutup, sekaligus memudahkan transparansi mekanisme dan fleksibilitas penggunaan.
Bagi perusahaan, pilihannya adalah menggunakan model dengan mudah melalui API atau menjalankannya di lingkungan sendiri. Opsi pertama lebih cepat diterapkan, sedangkan opsi kedua memungkinkan data tetap berada di dalam perusahaan. Kebutuhan memori 1 TB memang menjadi kendala besar, tetapi perusahaan yang menangani pengembangan rahasia atau materi video mungkin akan menilai investasinya sepadan.
Muse Spark Open menambah satu bahan pertimbangan dalam mengambil keputusan tersebut. Coba melalui API, lalu jalankan sendiri jika diperlukan. Pola penggunaan dua tahap seperti ini mungkin akan menjadi cara umum untuk memanfaatkan AI open-weight ke depannya.
コメント