Meta Rilis Muse Glimmer, AI Canggih yang Bisa Berjalan Tanpa Internet

Kehadiran Muse Glimmer menandai langkah baru dalam perkembangan AI. Jika sebagian besar layanan AI saat ini mengandalkan pusat data dan koneksi internet untuk memproses permintaan pengguna, Glimmer dirancang agar sejumlah kemampuan AI dapat dijalankan langsung di perangkat pengguna.

Model tersebut dapat bekerja secara lokal dengan menggunakan satu GPU kelas konsumen, sehingga tidak selalu membutuhkan pengiriman data atau permintaan ke server milik Meta. Karena prosesnya dilakukan di perangkat, pengguna dapat menjalankan tugas tertentu meskipun tidak memiliki koneksi internet.

Namun, kemampuan tanpa internet tersebut memiliki batasan. Muse Glimmer tetap membutuhkan koneksi apabila pengguna menjalankan fungsi yang memerlukan pencarian web, layanan cloud, API, atau informasi yang tersedia secara online.

Bukan Sekadar Chatbot

Meta merancang Muse Glimmer bukan hanya sebagai model yang menjawab pertanyaan. Model ini ditujukan untuk menjalankan AI agent, yakni sistem AI yang dapat melakukan serangkaian pekerjaan secara lebih mandiri.

Glimmer dapat menangani tugas multi-langkah, termasuk menggunakan berbagai tool, mengelola file dan tangkapan layar, menulis kode, hingga membantu memperbaiki kesalahan dalam pekerjaan tersebut. Model ini juga dapat memproses teks dan gambar serta dilatih untuk mendukung lebih dari 100 bahasa.

Kemampuan tersebut membuat Glimmer lebih menyerupai asisten digital yang dapat mengerjakan tugas dibandingkan sekadar chatbot yang memberikan jawaban berbasis percakapan.

Data Tak Harus Dikirim ke Server

Salah satu daya tarik utama AI lokal adalah aspek privasi.

Ketika pemrosesan dilakukan langsung di perangkat, data yang digunakan untuk menjalankan tugas tertentu tidak selalu harus dikirim ke server eksternal. Hal ini dapat memberikan keuntungan bagi pengguna yang menangani dokumen pribadi, pekerjaan kantor, kode pemrograman, maupun informasi lain yang tidak ingin selalu dikirim ke layanan cloud.

Selain persoalan privasi, pemrosesan lokal juga berpotensi memberikan respons yang lebih cepat karena perangkat tidak perlu selalu mengirim permintaan ke server dan menunggu hasil dari pusat data.

Meski demikian, tingkat keamanan dan privasi tetap bergantung pada bagaimana model, perangkat, aplikasi, serta data pengguna dikonfigurasi. AI lokal bukan berarti seluruh risiko keamanan otomatis hilang.

Dibuat Lebih Ringan untuk Laptop

Kemampuan Glimmer berjalan di perangkat konsumen tidak terlepas dari upaya Meta membuat model tersebut lebih ringan dibandingkan model AI berukuran besar.

Meta menggunakan teknik distillation untuk memindahkan sebagian kemampuan model yang lebih besar ke model yang lebih kecil. Dengan pendekatan tersebut, kemampuan AI dapat dikemas dalam model yang lebih ringan sehingga lebih memungkinkan dijalankan menggunakan perangkat keras konsumen.

Langkah ini penting karena model AI berukuran sangat besar biasanya membutuhkan infrastruktur komputasi yang mahal. Jika model dengan kemampuan cukup tinggi dapat dijalankan di komputer pribadi, kebutuhan terhadap server cloud dapat berkurang untuk jenis pekerjaan tertentu.

Open-Weight dan Bisa Digunakan Pengembang

Muse Glimmer merupakan model open-weight, yang berarti bobot modelnya dapat diunduh dan digunakan oleh pengembang pada perangkat mereka sendiri.

Pendekatan tersebut memberikan ruang yang lebih besar bagi pengembang untuk mengeksplorasi dan memodifikasi model sesuai kebutuhan. Strategi ini juga sejalan dengan dorongan Meta terhadap model AI yang lebih terbuka.

Meta melihat model dengan pendekatan terbuka sebagai salah satu cara untuk mengurangi ketergantungan pada segelintir perusahaan yang memiliki infrastruktur komputasi dan cloud berskala sangat besar.

Persaingan AI Mulai Bergeser

Peluncuran Muse Glimmer menunjukkan bahwa persaingan perusahaan AI tidak lagi semata-mata mengenai siapa yang memiliki chatbot paling pintar dan infrastruktur cloud terbesar.

Pertarungan mulai bergerak ke arah lain, yakni bagaimana menghadirkan AI yang semakin canggih tetapi tetap dapat dijalankan lebih dekat dengan pengguna.

AI yang berjalan secara lokal memiliki potensi untuk digunakan dalam berbagai situasi ketika koneksi internet terbatas atau ketika pengguna membutuhkan pemrosesan data yang tidak harus dikirim ke server eksternal.

Model seperti ini juga membuka peluang bagi pengembang untuk membangun aplikasi berbasis AI yang dapat bekerja langsung pada komputer pengguna tanpa seluruh proses harus bergantung pada layanan cloud.

Meta Siapkan Muse Spark 1.2

Di saat memperkenalkan Glimmer, Meta juga tengah menyiapkan Muse Spark 1.2, versi terbaru dari model Muse Spark yang memiliki kemampuan lebih besar.

Sebelumnya, Meta telah mengembangkan Muse Spark sebagai model yang menjadi fondasi berbagai kemampuan Meta AI. Perusahaan tersebut menyebut Muse Spark sebagai model paling kuatnya dan telah menggunakannya untuk meningkatkan kemampuan Meta AI dalam melakukan berbagai tugas.

Dengan demikian, Glimmer dan Spark memiliki posisi yang berbeda. Glimmer diarahkan pada model yang lebih ringan dan dapat dijalankan secara lokal, sedangkan Spark dikembangkan sebagai model yang lebih besar untuk mendukung pengalaman AI dengan kemampuan komputasi yang lebih tinggi.

AI Pribadi Semakin Dekat

Peluncuran Muse Glimmer juga sejalan dengan visi CEO Meta Mark Zuckerberg mengenai personal superintelligence, yaitu AI yang semakin dekat dengan pengguna dan mampu membantu menjalankan berbagai pekerjaan secara personal.

Jika perkembangan model lokal terus berlanjut, pengguna pada masa depan mungkin tidak lagi harus selalu mengirim setiap pertanyaan atau dokumen ke pusat data perusahaan teknologi untuk mendapatkan bantuan AI.

Sebagian kemampuan tersebut dapat dilakukan langsung di laptop, komputer, bahkan perangkat pribadi lainnya.

Kehadiran Muse Glimmer menjadi salah satu indikasi bahwa masa depan AI tidak hanya ditentukan oleh besarnya pusat data, tetapi juga oleh kemampuan menghadirkan kecerdasan buatan yang cukup kuat, ringan, dan efisien untuk berjalan langsung di perangkat pengguna.