Møt Llama 3 — en åpen kildekode stor språkmodell (LLM) laget av Meta som revolusjonerer det generative AI-markedet og kan støtte en bred rekke bruksområder. Denne guiden utforsker hva det er og hvordan det kan endre måten du arbeider på. 

‍

Verden av generativ kunstig intelligens (AI) forventes å vokse i løpet av de kommende årene, nå $1.3 trilioner i omsetning innen 2032. Med dette boom, er det ikke rart at så mange selskaper konkurrerer om å bygge den beste LLM-en.

Meta er ikke noe unntak. I april 2024 lanserte de Llama 3, en innovativ og kraftig LLM som setter nye kvalitetsstandarder for andre konkurrenter. Det som skiller denne AI-modellen fra andre verktøy, er at den er åpen kildekode og trent på massive datamengder.

Men la oss ikke kaste bort mer tid. Dykk inn i denne artikkelen for å utforske hva Meta Llama 3 er, dens viktigste funksjoner og bruksområder, og mye mer. 

Hva er Meta Llama 3?

Llama 3 er Metas AI sin nyeste LLM designet for flere bruksområder, slik som å svare på spørsmål i naturlig språk, skrive kode og brainstorming av ideer. 

Siden denne AI-assistenten er trent på store mengder treningsdata, forstår den konteksten og responderer som et menneske, noe som gjør den nyttig for å lage innhold og gi informasjon.

Llama 3, i motsetning til andre Llama-modeller, kommer med forhåndstrening og instruksjonsfintuning med 8 milliarder eller 70 milliarder parametere, noe som gjør den ideell for flere oppgaver, inkludert kodegenerering og oppsummering.  

Denne åpen kildekode-modellen er også fritt tilgjengelig på Hugging Face, Microsoft Azure, NVIDIA NIM, AWS, og Google Cloud.

Men hva gjør den annerledes enn tidligere versjoner? La oss finne ut av det. 

Hvordan skiller Llama 3 seg fra Llama 2?

Hva gjør Llama 3 bedre enn Llama 2? De bør ikke være så forskjellige, ikke sant? 

Vel, først av alt, Metas Llama 3 har et 15 trillion-token dataset (som muliggjør mer effektiv språk kodering og bedre ytelse), som er 7x ganger større enn tidligere modeller.

Med Llama 3s tokenizer som støtter 128,000 tokens, gjør det den mer kapabel enn andre versjoner av Llama, og tilbyr enestående nøyaktighet, resonnement og pålitelighet. 

I tillegg, ifølge Meta, inkluderte de 4x så mye kode og dekket 30 språk. De la også til Code Shield, et sikkerhetstiltak som fanger opp eventuell feilaktig kode Llama 3 måtte generere. 

Avslutningsvis, selv om Llama 3 har den samme transformerarkitekturen som Llama 2, er den bedre og mer effektiv enn eldre generasjoner. 

Her er hva en Reddit-bruker har å si om det: 

“Bare fra de begrensede testene som har vært mulig til nå, er det allerede klart at 70B-modellen er den beste open-source modellen for øyeblikket. Det har allerede blitt sagt at andre modellstørrelser og høyere kontekstvinduer vil følge. 

Men hvis Llama 3 er så god til det den gjør, hva er dens nøkkelfunksjoner? 

Ikke noe problem; vi kan utforske dette emnet i den følgende seksjonen. 

Hva er Llama 3s nøkkelfunksjoner?

Det må være noe med Llama 3 som tiltrekker så mange mennesker. Tross alt overgår Llama 3 andre konkurrenter som Claude 3 eller ChatGPT med et 15% gjennomsnitt på AI-benchmarkene. Men hva gir Llama 3 fordelen?

La oss ta en titt på dens nøkkelfunksjoner; de kan gi svaret vi søker: 

• Parametermodeller: Meta tilbyr to parametermodeller, som Llama 3 70b og 8b. Ved å overgå Llama 2 på dette området, forbedrer denne neste generasjons LLM effektiviteten, forbedrer kodegenereringen og optimaliserer modellytelsen for virkelige scenarier. 
• Treningsdatasett: For å gjøre Llama 3 til den beste, trente Meta den på store, høy-kvalitets datasett. Ved å samle inn over 15T tokens fra offentlige kilder, er Llama 3 forberedt for mange flerspråklige bruksområder. Meta opprettet filtreringspipelines, som NSFW og heuristiske filtre, kvalitetsklassifiserere, og semantisk deduplisering. 
• Modellarkitekturer: Llama 3 opprettholder sin dekoder-eneste transformerarkitektur, men den kommer med flere oppgraderinger. Først, Llama 3 koder språk mer effektivt, og forbedrer ytelsen betydelig. For det andre, Llama har integrert Grouped Query Attention (GQA) i begge parametermodeller, noe som øker effektiviteten av inferensen. 
• Post-trenings skalering: Meta utviklet detaljerte skaleringslover som lot dem forutsi ytelsen til Llama 3 på nøkkeloppgaver, slik som kodegenerering evaluert på HumanEval Benchmark. I tillegg utviklet Meta en avansert treningsstakk som automatiserer feilhåndtering og maksimerer GPU-opptid. 
• Instruksjonsfintuning: Metas nye tilnærming til post-trening er en blanding av avvisningssampling, nærhetspolitikkoptimalisering (PPO), og direkte preferanseoptimalisering (DPO). Denne kombinasjonen forbedrer kvaliteten på promptene og Llama 3s ytelse. 

Vel, det var en virvelvind av informasjon. Føl deg fri til å lese igjen hvis du føler at noe ikke er klart. 😉

Hvis du er klar til å gå videre, la oss diskutere Llama 3s hovedbruksområder. 

Hva er de viktigste Llama 3-bruksområdene?

Fra begynnelsen av artikkelen har du sannsynligvis spurt deg selv, “Hva er Llama 3 faktisk god til?” Dette er hva denne seksjonen vil forsøke å svare på. 

Så her er de vanligste bruksområdene for Llama 3: 

• Chatbots: Siden Llama 3 har en dyp språkforståelse, kan du bruke den til å automatisere kundeservice. Som et resultat, frigjør du tiden til agentene dine slik at de kan fokusere på å forbedre forholdet til kundene. Dine kunder vil også føle seg mer engasjerte med merket ditt.
• Innholdsproduksjon: Ved å bruke Llama 3 kan du generere ulike typer innhold, fra artikler og rapporter til blogger og til og med historier. Slik kan du strømlinjeforme innholdsproduksjonsprosessen og produsere flere stykker raskere. 
• E-postkommunikasjon: Når du står fast og ikke finner de rette ordene, kan Llama 3 hjelpe deg med å utforme e-postene dine og formulere den rette responsen hver gang. Slik opprettholder du en konsekvent merkestemme på tvers av alle kommunikasjonskanaler. 
• Dataanalyse rapporter: Hvis du noen gang trenger å se hvordan virksomheten din presterer, kan Llama 3 oppsummere funnene dine (samt lange dokumenter) og generere visuelt tiltalende rapporter med data, slik at du kan ta mer informerte beslutninger. 
• Kodegenerering: Vi har nevnt dette flere ganger gjennom artikkelen, og det er et av Llama 3s hovedbruksområder. Som et resultat kan utviklere generere kodesnutter og identifisere feil. Men Llama 3 tilbyr også programmeringsanbefalinger for å forbedre prosessen. 

Det var alt om Llamas bruksområder. 

La oss nå snakke om dens sikkerhetssystem. 

Hva er Llama 3s sikkerhetssystem?

Llama 3 arbeider med sensitive data, så det er en selvfølge at Meta har fokusert på å implementere robuste sikkerhetstiltak for å holde disse dataene trygge.

Her er hva Llama 3-systemet bruker for å gjøre det tryggere å bruke:  

• Llama Code Shield – I korte trekk ekskluderer Code Shield den usikre koden som Llama genererer, og sørger for at den ikke inkluderes i det endelige produktet. I bunn og grunn klassifiserer og filtrerer den usikker kode. 
• Llama Guard 2 – Dette sikkerhetstiltaket fokuserer på å analysere teksten din, inkludert promptene og svarene, og merker det som “trygt” eller “usikkert” ved å bruke MLCommons AI Safety Taxonomy standardene. Det som gjør en tekst usikker er beskrivelser som inneholder diskriminering, hatprat eller vold.  
• CyberSec Eval 2 – Formålet med CyberSec Eval 2 er å måle hvor sikker LLM er, ved hjelp av funksjoner som offensive cybersikkerhetsevner, mottakelighet for promptinjeksjonsevaluering, og misbruk av dens kode-analysator. 
• torchtune – Metas Llama 3 bruker et PyTorch-nativt bibliotek for å forfatte og eksperimentere med LLM-er. Hvorfor? Fordi det tilbyr minneeffektive treningsoppskrifter for finjustering. 

Vi er ferdige med teori-seksjonen av denne artikkelen. La oss nå bli praktiske og lære hvordan man bruker Llama 3 med Meta AI. 

Hvordan kan du bruke Llama 3?

Du ønsker å bruke og få tilgang til Llama 3, men du vet ikke hvor du skal starte. Skal du klappe den eller gi den mat? Nei — du må bare åpne Meta AI-appen på Facebook, Messenger, WhatsApp, Instagram eller på nettet. 

Det fungerer som ChatGPT, noe som betyr at du får en egen seksjon hvor du kan spørre Meta AI om hva som helst. 

Den dårlige nyheten er at den kun er tilgjengelig i noen få land per nå, som: 

• De forente stater
• Australia
• Canada
• Ghana
• Jamaica
• Malawi
• New Zealand
• Nigeria
• Pakistan
• Singapore
• Sør-Afrika
• Uganda
• Zambia
• Zimbabwe

Så, hvis du ikke er i et av disse landene, kan det hende du får denne uheldige meldingen: 

Men ikke bekymre deg — Meta lover å legge til flere land på listen, ettersom de nettopp er i gang med denne reisen. Så følg med for når Llama 3 blir tilgjengelig i ditt område. 

For de som har tilgang til det, må du bare besøke llama.meta.com og klikke Prøv Meta AI i øverste høyre hjørne. 

En ny fane vil åpne med Llama 3s dashbord hvor du kan skrive inn det du ønsker i promptboksen. 

I likhet med ChatGPT vil dette verktøyet generere den nødvendige teksten basert på prompten din.

Du kan også bruke Llama 3 via andre plattformer, som Hugging Face, Perplexity AI, Replicate, GPT4All, Ollama, ChatLabs eller lokalt. 

Over til deg!

Meta har mye på lager for Llama 3, inkludert eksperimentering med multimodalitet og utvikling av sin største modell så langt (over 400B parametre). 

Denne AI-programvaren har potensial til å revolusjonere markedet og sette nye kvalitetsstandarder for andre konkurrenter. Men vet du hvem som også har potensial til å endre måten du jobber på? 

Guru! 

Det er en enterprise AI-søk, intranett og wiki-plattform som forbedrer teamets produktivitet. Kort sagt kan du søke etter alt, fra chatter til apper til selskapskunnskap, og få raske svar på alle henvendelser. 

Alt uten å bytte apper. 

Prøv Guru nå for å finne ut mer. 

‍

‍

‍