Category: Bisnis.com Tekno

Bisnis.com, JAKARTA — Meta, perusahaan teknologi milik Mark Zuckerberg, baru saja merilis model AI terbaru Llama 4, dengan tiga koleksi baru yaitu Llama Behemoth, Maverick, dan Llama Scout. Ketiganya diklaim lebih tangguh dibandingkan dengan model AI yang ada saat ini, salah satunya Gemini milik Google.

“Kami memperkenalkan model pertama dalam rangkaian Llama 4, yang memungkinkan orang untuk membangun pengalaman multimodal yang lebih personal,” tulis Meta dalam blognya, dikutip Minggu (6/4/2025). 

Meta mengeklaim bahwa ketiga model terbarunya memiliki keunggulan yang jauh lebih tinggi dibandingkan dengan model-model sebelumnya.

Dengan jumlah parameter yang mencapai miliaran dan ahli yang lebih banyak terlibat, model Llama terbaru mampu memberikan pengalaman yang lebih baik kepada para penggunanya. 

Llama 4 Scout dengan 17 miliar parameter aktif dan 16 ahli, menurut Meta, adalah model multimodal terbaik di kelasnya dan lebih kuat daripada semua model Llama generasi sebelumnya.

Model ini dapat dijalankan pada satu GPU NVIDIA H100. Selain itu, Llama 4 Scout menawarkan jendela konteks 10 juta, dan memberikan hasil yang lebih baik daripada Gemma 3, Gemini dan Mistral 3.1 dalam berbagai tolok ukur yang umum dilaporkan.

Kemudian, Llama 4 Maverick, model dengan 17 miliar parameter aktif dan 128 ahli, diklaim mampu mengalahkan GPT-4o dan Gemini 2.0 Flash dalam berbagai tolok ukur yang umum dilaporkan, serta mencapai hasil yang sebanding dengan DeepSeek v3 dalam penalaran dan pengkodean – dengan kurang dari setengah parameter aktif.

Model Llama 4

Llama 4 Maverick menawarkan rasio kinerja terhadap biaya yang terbaik di kelasnya dengan versi chat eksperimental yang mencetak skor ELO 1417 di LMArena.

Meta menyebut berkat distilasi dari Llama 4 Behemoth, model dengan 288 miliar parameter aktif dan 16 ahli yang merupakan model  yang paling kuat dan salah satu LLM terhebat di dunia. Llama 4 Behemoth mengungguli GPT-4.5, Claude Sonnet 3.7, dan Gemini 2.0 Pro dalam beberapa tolok ukur STEM. Llama 4 Behemoth masih dalam proses pelatihan.

Sementara itu, Llama 4 Scout, adalah model AI yang lebih kecil dengan  17 miliar parameter aktif, 16 ahli, dan 109 miliar total parameter yang memberikan kinerja state-of-the-art untuk kelasnya. 

Llama 4 Scout secara dramatis meningkatkan panjang konteks dari 128.000 token di Llama 3 menjadi 10 juta token. Ini membuat pengguna untuk melakukan ringkasan multi-dokumen, penguraian aktivitas pengguna yang luas untuk tugas yang dipersonalisasi, dan penalaran atas basis kode yang luas.

Llama 4 Scout dilatih sebelumnya dan setelahnya dengan panjang konteks 256.000, yang memberdayakan model dasar dengan kemampuan generalisasi panjang yang canggih. 

“Meta AI yang dibangun dengan Llama 4 tersedia di WhatsApp, Messenger, Instagram Direct, dan di web,” tulis Meta. 

Meta menyampaikan inovasi utama dalam arsitektur Llama 4 adalah penggunaan lapisan perhatian yang di interleave tanpa penyematan posisi. Selain itu, Meta menggunakan penskalaan suhu waktu inferensi perhatian untuk meningkatkan generalisasi panjang. 

Meta menyebutnya arsitektur iRoPE, di mana “i” adalah singkatan dari lapisan perhatian “interleaved”, yang menyoroti tujuan jangka panjang untuk mendukung panjang konteks “tak terbatas”, dan “RoPE” merujuk pada penyematan posisi rotary yang digunakan di sebagian besar lapisan.”

Meta juga menyampaikan bahwa koleksi Llama 4 hanyalah awal. Meta berkomitmen untuk terus mengembangkan AI yang lebih humanis, yang dapat berinteraksi secara alami dengan manusia, dan menyelesaikan masalah yang belum pernah mereka lihat sebelumnya.