Temui Llama 3 — model bahasa besar sumber terbuka (LLM) yang dibuat oleh Meta yang mengguncang pasar AI generatif dan dapat mendukung berbagai kasus penggunaan. Panduan ini mengeksplorasi apa itu dan bagaimana ia dapat mengubah cara Anda bekerja. 

‍

Dunia kecerdasan buatan generatif (AI) diperkirakan akan tumbuh selama beberapa tahun ke depan, mencapai $1,3 triliun dalam pendapatan pada tahun 2032. Dengan ledakan ini, wajar jika banyak perusahaan bersaing untuk membangun LLM terbaik.

Meta tidak berbeda. Pada bulan April 2024, Meta merilis Llama 3, LLM inovatif dan kuat yang menetapkan standar kualitas baru untuk pesaing lainnya. Apa yang membuat model AI ini berbeda dari alat lainnya adalah bahwa ia bersifat sumber terbuka dan dilatih pada set data besar.

Tapi mari kita tidak buang-buang waktu lagi. Selami artikel ini untuk menjelajahi apa itu Meta Llama 3, fitur utama dan kasus penggunaannya, serta banyak lagi. 

Apa itu Meta Llama 3?

Llama 3 adalah LLM terbaru Meta AI yang dirancang untuk berbagai kasus penggunaan, seperti menjawab pertanyaan dalam bahasa alami, menulis kode, dan brainstorming ide. 

Karena asisten AI ini dilatih pada jumlah data pelatihan yang besar, ia memahami konteks dan merespon seperti manusia, yang membuatnya berguna untuk membuat konten dan memberikan informasi.

Llama 3, tidak seperti model Llama lainnya, dilengkapi dengan pra-pelatihan dan penyesuaian instruksi dengan 8 miliar atau 70 miliar parameter, yang menjadikannya ideal untuk berbagai tugas, termasuk generasi kode dan ringkasan.  

Model sumber terbuka ini juga tersedia secara gratis di Hugging Face, Microsoft Azure, NVIDIA NIM, AWS, dan Google Cloud.

Tetapi apa yang membuatnya berbeda dari versi sebelumnya? Mari kita cari tahu. 

Bagaimana Llama 3 berbeda dari Llama 2?

Apa yang membuat Llama 3 lebih baik dari Llama 2? Mereka seharusnya tidak terlalu berbeda, kan? 

Yah, pertama-tama, Llama 3 dari Meta memiliki dataset dengan 15 triliun token (memungkinkan pengkodean bahasa yang lebih efisien dan kinerja yang lebih baik), yang 7x lebih besar dari model sebelumnya.

Dengan tokenizer Llama 3 yang mendukung 128.000 token, ini menjadikannya lebih mampu daripada versi Llama lainnya, menawarkan akurasi, penalaran, dan keandalan yang tak tertandingi. 

Lebih jauh lagi, menurut Meta, mereka menyertakan 4x lebih banyak kode dan mencakup 30 bahasa. Mereka juga menambahkan Code Shield, pengaman yang menangkap kode cacat yang mungkin dihasilkan oleh Llama 3. 

Kesimpulannya, meskipun Llama 3 memiliki arsitektur transformer yang sama dengan Llama 2, ia lebih baik dan lebih efisien daripada generasi sebelumnya. 

Inilah yang dikatakan pengguna Reddit tentangnya: 

“Bahkan hanya dari pengujian terbatas yang mungkin dilakukan hingga sekarang, sudah jelas bahwa model 70B adalah model sumber terbuka terbaik saat ini. Sudah dikatakan bahwa ukuran model lain dan jendela konteks yang lebih tinggi akan menyusul. 

Tetapi jika Llama 3 begitu baik dalam apa yang dilakukannya, apa fitur utamanya? 

Tidak masalah; kita dapat menjelajahi topik ini di bagian berikutnya. 

Apa saja Fitur Utama Llama 3?

Pasti ada sesuatu tentang Llama 3 yang menarik perhatian banyak orang. Bagaimanapun, Llama 3 mengungguli pesaing lain seperti Claude 3 atau ChatGPT dengan rata-rata 15% di seluruh benchmark AI. Tetapi apa yang memberi Llama 3 keunggulan?

Mari kita lihat fitur utamanya; mereka mungkin memberikan jawaban yang kita cari: 

• Model parameter: Meta menawarkan dua model parameter, seperti Llama 3 70b dan 8b. Mengungguli Llama 2 di area ini, LLM generasi berikutnya ini meningkatkan efisiensi, memperbaiki generasi kode, dan mengoptimalkan kinerja model untuk skenario dunia nyata. 
• Dataset pelatihan: Untuk menjadikan Llama 3 yang terbaik, Meta melatihnya pada dataset besar dan berkualitas tinggi. Mengumpulkan lebih dari 15T token dari sumber publik, Llama 3 siap untuk banyak kasus penggunaan multibahasa. Meta membuat jalur penyaringan, seperti penyaringan NSFW dan heuristik, pengklasifikasi kualitas, dan penghapusan semantik. 
• Arsitektur model: Llama 3 mempertahankan arsitektur transformer decoder-only tetapi dilengkapi dengan beberapa pembaruan. Pertama, Llama 3 mengodekan bahasa lebih efisien, secara signifikan meningkatkan kinerjanya. Kedua, Llama telah mengintegrasikan Grouped Query Attention (GQA) di kedua model parameter, yang meningkatkan efisiensi inferensi. 
• Skala pasca-pelatihan: Meta mengembangkan hukum skala terperinci yang memungkinkan untuk memprediksi kinerja Llama 3 pada tugas-tugas kunci, seperti generasi kode yang dievaluasi pada HumanEval Benchmark. Selain itu, Meta mengembangkan tumpukan pelatihan canggih yang mengotomatiskan penanganan kesalahan dan memaksimalkan waktu aktif GPU. 
• Penyesuaian instruksi: Pendekatan baru Meta untuk pasca-pelatihan adalah kombinasi dari pengambilan sampel penolakan, optimasi kebijakan proksimal (PPO), dan optimasi preferensi langsung (DPO). Kombinasi ini meningkatkan kualitas prompt dan kinerja Llama 3. 

Yah, itu adalah badai informasi. Silakan baca lagi jika Anda merasa ada yang tidak jelas. 😉

Jika Anda siap untuk melanjutkan, mari kita bahas kasus penggunaan utama Llama 3. 

Apa saja Kasus Penggunaan Utama Llama 3?

Sejak awal artikel ini, Anda mungkin telah bertanya pada diri sendiri, “Apa sebenarnya kegunaan Llama 3?” Inilah yang akan dicoba untuk dijawab oleh bagian ini. 

Jadi, berikut ini adalah kasus penggunaan paling umum untuk Llama 3: 

• Chatbots: Saat Llama 3 memiliki pemahaman bahasa yang dalam, Anda dapat menggunakannya untuk mengotomatiskan layanan pelanggan. Akibatnya, Anda membebaskan waktu agen Anda agar mereka fokus pada peningkatan hubungan dengan klien. Pelanggan Anda juga akan merasa lebih terlibat dengan merek Anda.
• Kreator Konten: Dengan menggunakan Llama 3, Anda dapat menghasilkan berbagai jenis konten, mulai dari artikel dan laporan hingga blog dan bahkan cerita. Dengan cara ini, Anda menyederhanakan proses pembuatan konten dan menghasilkan lebih banyak konten dengan lebih cepat. 
• Komunikasi Email: Setiap kali Anda bingung dan tidak dapat menemukan kata yang tepat, Llama 3 dapat membantu Anda menyusun email dan merumuskan respon yang tepat setiap saat. Dengan cara ini, Anda mempertahankan nada merek yang konsisten di semua saluran komunikasi. 
• Laporan analisis data: Jika Anda pernah ingin melihat bagaimana kinerja bisnis Anda, Llama 3 dapat meringkas temuan Anda (serta dokumen panjang Anda) dan menghasilkan laporan yang menarik secara visual dengan data, sehingga Anda dapat membuat keputusan yang lebih tepat. 
• Generasi kode: Kami telah menyebutkan ini beberapa kali sepanjang artikel dan ini adalah salah satu kasus penggunaan utama Llama 3. Akibatnya, pengembang dapat menghasilkan potongan kode dan mengidentifikasi kesalahan. Tetapi Llama 3 juga menawarkan rekomendasi pemrograman untuk memperbaiki proses. 

Itu saja tentang kasus penggunaan Llama. 

Sekarang, mari kita bicarakan ekosistem keamanannya. 

Apa itu Ekosistem Keamanan Llama 3?

Llama 3 berurusan dengan data sensitif, jadi sudah pasti bahwa, dalam dunia siber yang tidak stabil ini, Meta berfokus pada penerapan langkah-langkah keamanan yang kuat untuk menjaga data tersebut tetap aman.

Inilah yang digunakan ekosistem Llama 3 untuk membuatnya lebih aman digunakan:  

• Llama Code Shield – Secara singkat, Code Shield mengecualikan kode yang tidak aman yang dihasilkan Llama, memastikan bahwa itu tidak termasuk dalam produk akhir. Pada dasarnya, ia mengklasifikasikan dan menyaring kode yang tidak aman. 
• Llama Guard 2 – Tindakan keamanan ini berfokus pada menganalisis teks Anda, termasuk prompt dan respons, dan menandainya sebagai “aman” atau “tidak aman” menggunakan standar MLCommons AI Safety Taxonomy. Apa yang membuat teks tidak aman adalah deskripsi yang mengandung diskriminasi, ujaran kebencian, atau kekerasan.  
• CyberSec Eval 2 – Tujuan CyberSec Eval 2 adalah untuk mengukur seberapa aman LLM, menggunakan fungsionalitas seperti kemampuan keamanan siber ofensif, kerentanan terhadap penilaian injeksi prompt, dan penyalahgunaan interpreter kodenya. 
• torchtune – Llama 3 dari Meta menggunakan pustaka asli PyTorch untuk menyusun dan bereksperimen dengan LLM. Mengapa? Karena ini menawarkan resep pelatihan yang efisien dalam penggunaan memori untuk penyesuaian. 

Kami telah menyelesaikan bagian teori artikel ini. Sekarang, mari kita yang praktis dan belajar cara menggunakan Llama 3 menggunakan Meta AI. 

Bagaimana Anda Dapat Menggunakan Llama 3?

Anda ingin menggunakan dan mengakses Llama 3, tetapi Anda tidak tahu dari mana harus memulai. Apakah Anda membelainya atau memberinya makan? Tidak — Anda hanya perlu membuka aplikasi Meta AI di Facebook, Messenger, WhatsApp, Instagram, atau web. 

Ini berfungsi seperti ChatGPT, yang berarti Anda akan memiliki bagian khusus di mana Anda bisa bertanya kepada Meta AI tentang apa saja. 

Kabar buruknya adalah bahwa ini hanya tersedia di beberapa negara saat ini, seperti: 

• Amerika Serikat
• Australia
• Kanada
• Ghana
• Jamaika
• Malawi
• Selandia Baru
• Nigeria
• Pakistan
• Singapura
• Afrika Selatan
• Uganda
• Zambia
• Zimbabwe

Jadi, jika Anda tidak berada di salah satu negara ini, Anda mungkin akan mendapatkan pesan yang tidak menguntungkan ini: 

Namun, jangan khawatir — Meta berjanji untuk menambahkan lebih banyak negara ke daftar mereka, karena mereka baru memulai perjalanan ini. Jadi tetap ikuti untuk mengetahui kapan Llama 3 akan tersedia di area Anda. 

Bagi mereka yang memiliki akses, yang perlu Anda lakukan adalah mengunjungi llama.meta.com dan klik Coba Meta AI di sudut kanan atas. 

Sebuah tab baru akan terbuka dengan dasbor Llama 3 di mana Anda dapat mengetikkan input Anda di kotak prompt. 

Mirip dengan ChatGPT, alat ini akan menghasilkan teks yang diperlukan berdasarkan prompt Anda.

Anda juga bisa menggunakan Llama 3 melalui platform lain, seperti Hugging Face, Perplexity AI, Replicate, GPT4All, Ollama, ChatLabs, atau secara lokal. 

Kini Terserah Anda!

Meta memiliki banyak rencana untuk Llama 3, termasuk mengembangkan multimodalitas dan mengembangkan model terbesarnya hingga saat ini (lebih dari 400B parameter). 

Perangkat lunak AI ini memiliki potensi untuk merevolusi pasar dan menetapkan standar kualitas baru untuk pesaing lainnya. Tapi Anda tahu siapa lagi yang memiliki potensi untuk mengubah cara Anda bekerja? 

Guru! 

Ini adalah platform pencarian AI perusahaan, intranet, dan wiki yang meningkatkan produktivitas tim Anda. Singkatnya, Anda dapat mencari segalanya, mulai dari obrolan hingga aplikasi hingga pengetahuan perusahaan, dan mendapatkan jawaban cepat untuk semua pertanyaan. 

Semua itu tanpa harus mengganti aplikasi. 

Coba Guru sekarang untuk menemukan lebih banyak. 

‍

‍

‍