Iklan
Campus Commercial Park: rukost di kawasan kampus
C.CO Park menghadirkan kawasan ruko dan kost dalam satu gerbang, dirancang untuk mahasiswa dan penghuni sekitar kampus. Cocok untuk yang mencari aset produktif dengan pengelolaan kawasan yang tertata.
Viral hari ini di dunia kecerdasan buatan ditandai dengan langkah Meta membuka bobot model besar miliknya. Muse Spark Open dirilis sebagai model terbuka dengan 816 miliar parameter dan konteks sampai satu juta token. Bagi pengembang, ini pertama kali model sekelas itu bisa dijalankan di desktop, bukan hanya disewa melalui layanan awan.
Perusahaan menyebut rilis ini sebagai model terbuka paling mumpuni yang pernah dikeluarkan dari Amerika Serikat. Klaim itu disandingkan dengan kenyataan bahwa model terbaik Meta tetap tertutup. Kombinasi keduanya memperlihatkan strategi yang hati hati: keterbukaan dijual sebagai nilai, tetapi teknologi puncak tetap dipegang.
Bagi pasar Indonesia, rilis ini menarik karena menyentuh dua hal sekaligus. Ada pertanyaan soal biaya menjalankan model besar secara mandiri, dan ada pertanyaan soal akses teknologi yang selama ini bergantung pada penyedia layanan asing.
Viral Hari Ini: Model Terbuka 816 Miliar Parameter
Mengutip pengumuman resmi Meta, Muse Spark Open memakai arsitektur campuran ahli atau mixture of experts. Dari 816 miliar parameter, sekitar 42 miliar di antaranya aktif pada setiap token yang diproses. Desain itu menekan biaya komputasi saat inferensi tanpa memangkas ukuran total model.
Model ini bersifat multimodal sejak awal. Masukannya dapat berupa teks, gambar, video, dan audio, sedangkan keluarannya berupa teks. Menurut laporan The Hindu, kombinasi itu membuat model cocok untuk membaca rekaman, memeriksa tangkapan layar, dan menganalisis dokumen berdampingan dengan instruksi tertulis.
Konteks sampai satu juta token menjadi nilai jual utama bagi pekerjaan panjang. Model dapat menangani berkas besar dan rangkaian tugas berlapis dalam satu sesi. Kemampuan itu diarahkan pada rekayasa perangkat lunak, tugas agen berdurasi panjang, dan penalaran bertahap.
Bobot model tersedia melalui beberapa kanal distribusi, termasuk repositori model publik, layanan model perusahaan awan, dan katalog model korporat. Pengembang juga dapat mengaksesnya lewat sejumlah penyedia inferensi dengan tarif yang ditetapkan masing masing kanal. Alias versi sebelumnya pada layanan itu dialihkan otomatis.
Menjalankan Model di Dua Mac Studio
Daya tarik teknis terbesar ada pada skenario desktop. Menurut ulasan VentureBeat, model ini dapat berjalan pada dua unit Mac Studio dengan chip M5 Ultra. Masing masing perangkat menyediakan memori terpadu sampai 512 gigabita, sehingga dua mesin bersama mampu menampung seluruh model.
Bandwidth memori sekitar 1,2 terabita per detik membuat sistem dapat mengambil bagian model yang dibutuhkan setiap token. Meta mengoptimalkan proses itu melalui kerangka kerja machine learning buatan perusahaan pembuat chip tersebut. Hasilnya, dua komputer meja dapat berperilaku seperti satu sistem dengan memori terpadu satu terabita.
Namun kebutuhan memorinya tidak bisa ditekan sembarangan. Kartu model mencantumkan kebutuhan memori akselerator paling sedikit 700 gigabita untuk versi kuantisasi rendah dan dua terabita untuk versi presisi tinggi. Mengaktifkan hanya 42 miliar parameter per token tidak menurunkan kebutuhan penyimpanan bobot secara keseluruhan.
Konsekuensinya jelas: model ini bukan untuk laptop biasa. Perangkat yang dibutuhkan juga belum dijual bebas dalam konfigurasi memori tertinggi. Skenario desktop karena itu lebih tepat dibaca sebagai arah kemampuan, bukan sebagai paket siap beli hari ini.
