認識 Llama 3 — 一個由 Meta 開發的開源大型語言模型 (LLM)，它在生成式 AI 市場上引起了震撼，並能支持廣泛的使用案例。 本指南探索了它是什麼以及這如何改變您的工作方式。 

‍

預計生成式人工智慧 (AI) 的世界在未來幾年將會成長，到2032年將達到1.3兆美元的收入。 隨著這一繁榮，難怪這麼多公司競爭著建立最好的 LLM。

Meta 也不例外。 在 2024 年 4 月，Meta 發布了 Llama 3，一個創新而強大的 LLM，為其他競爭對手設定了新的質量標準。 使這個 AI 模型與其他工具區別開來的是它是開源的，並且基於海量數據進行訓練。

但我們不想再浪費時間了。 深入這篇文章，探索 Meta Llama 3 是什麼、它的關鍵特徵和使用案例，以及更多內容。 

什麼是 Meta Llama 3？

Llama 3 是 Meta AI 最新的 LLM，旨在用於多種用例，例如用自然語言回答問題、撰寫代碼和頭腦風暴創意。 

由於這個 AI 助手 是在大量訓練數據上進行訓練的，因此它能夠理解上下文並像人類一樣回應，這使得它在撰寫內容和提供信息方面非常有用。

Llama 3 與其他 Llama 模型不同，它配備了 80 億或 700 億參數的預訓練和指令微調，這使它適用於多種任務，包括代碼生成和摘要。  

這個開源模型在 Hugging Face、Microsoft Azure、NVIDIA NIM、AWS 和 Google Cloud 上也可免費獲得。

但它與之前版本的不同之處在於什麼？ 讓我們找出來。 

Llama 3 與 Llama 2 有什麼區別？

Llama 3 有什麼優勢？ 他們不應該 那麼 不同，對吧？ 

首先，Meta 的 Llama 3 擁有一個15兆字元的數據集（使語言編碼更有效率，並提升性能），這是比前一代模型大7倍。

有了支持 128,000 令牌的 Llama 3 的標記器，使其比其他版本更具能力，提供無與倫比的準確性、推理和可靠性。 

此外，根據 Meta 的說法，他們包含了 4 倍的代碼 並涵蓋了 30 種語言。 他們還增加了代碼護欄，這是一種防護措施，能檢測到 Llama 3 可能生成的任何錯誤代碼。 

總之，儘管 Llama 3 與 Llama 2 擁有相同的變壓器架構，但它在各個方面都比舊版更好且更高效。 

這是 Reddit 用戶對它的評價： 

“即使僅從目前能進行的有限測試來看，已經很明顯70B模型是目前最好的開源模型。” 據說其他模型大小和更高的上下文窗口將隨之而來。” 

但是，如果Llama 3在它所做的事情上如此出色，它的主要特點是什麼？ 

問題不大；我們可以在接下來的部分探討這個主題。 

Llama 3 的關鍵特徵是什麼？

Llama 3 一定有什麼東西吸引了這麼多人。 畢竟，Llama 3 在 AI 基準測試中優於其他競爭對手，如 Claude 3 或 ChatGPT，平均提升了15%。 但究竟是什麼讓 Llama 3 佔據優勢？

讓我們來看看它的關鍵特徵；它們可能會提供我們所尋求的答案： 

• 參數模型：Meta 提供兩種參數模型，例如 Llama 3 70b 和 8b。 在這一領域超越 Llama 2，這種下一代 LLM 提升了效率，改善了代碼生成，並優化了在現實場景中的模型性能。 
• 訓練數據集：為了讓 Llama 3 成為最佳，Meta 在大型、高質量的數據集上訓練它。 從公共來源收集逾 15 兆的令牌，Llama 3 準備好應對多種多語言用例。 Meta 創建過濾管道，例如 NSFW 和啟發式過濾器、質量分類器和語義去重。 
• 模型架構：Llama 3 保持其僅解碼器的變壓器架構，但確實進行了幾項升級。 首先，Llama 3 更高效地編碼語言，顯著改善了其性能。 第二，Llama 在兩個參數模型中整合了分組查詢注意力 (GQA)，這增加了推理的效率。 
• 後訓練規模：Meta 制定了詳細的縮放規則，使其能夠預測 Llama 3 在關鍵任務上的表現，例如在人類評估基準上進行的代碼生成。 此外，Meta 還開發了一個先進的訓練堆棧，自動化錯誤處理並最大化 GPU 正常運作的時間。 
• 指令微調：Meta 對後期訓練的新方法是一種混合的拒絕採樣、近端政策優化 (PPO) 和直接偏好優化 (DPO)。 這一組合提高了提示的質量和 Llama 3 的性能。 

好吧，這是一陣信息的轟炸。 如果您覺得有什麼不清楚的地方，請隨時再讀一次。 😉

如果您準備好了，那麼讓我們討論 Llama 3 的主要使用案例。 

Llama 3 的主要使用案例是什麼？

從文章一開始，您可能問自己：“Llama 3 實際上擅長什麼？” 這一部分將嘗試回答這個問題。 

因此，以下是 Llama 3 最常見的使用案例： 

• 聊天機器人：由於 Llama 3 具備深厚的語言理解能力，您可以用它來自動化客戶服務。 因此，您可以節省代理的時間，讓他們專注於改善與客戶的關係。 您的客戶也會對您的品牌感到更加投入。
• 內容創建：通過使用 Llama 3，您可以生成各種內容，從文章和報告到博客甚至故事。 這樣，您可以簡化內容創建流程，更快地產出更多作品。 
• 電子郵件通信：每當您感到迷茫，無法找到合適的詞語時，Llama 3 可以幫助您撰寫電子郵件和正確回應。 這樣，您可以在所有通信渠道中保持一致的品牌語氣。 
• 數據分析報告：如果你需要查看你的業務表現，Llama 3 可以總結你的發現（以及你的長文件），並生成具有數據的視覺報告，以便你作出更明智的決策。 
• 代碼生成：我們在文章中多次提到這一點，這是 Llama 3 的主要用例之一。 因此，開發人員可以生成代碼片段並識別錯誤。 但 Llama 3 還提供編程建議來改善流程。 

這就是有關 Llama 3 使用案例的所有內容。 

接下來，讓我們談談它的安全生態系統。 

Llama 3 的安全生態系統是什麼？

Llama 3 處理敏感數據，因此在這個不穩定的網絡世界中，Meta 專注於實施堅固的安全措施以保護這些數據的安全。

以下是 Llama 3 生態系統用來提高使用安全性的措施：  

• Llama 代碼保護 – 簡而言之，代碼保護排除 Llama 生成的不安全代碼，以確保其不包含在最終產品中。 基本上，它對不安全代碼進行分類和過濾。 
• Llama Guard 2 – 這項安全措施專注於分析您的文本，包括提示和回應，並根據 MLCommons AI 安全分類法 標準標記為 “安全” 或 “不安全”。 使一段文本變得不安全的原因包括描述中包含歧視、仇恨言論或暴力。  
• CyberSec Eval 2 – CyberSec Eval 2 的目的在於評估 LLM 的安全性，使用的功能包括攻擊性網絡安全能力、對提示注入評估的敏感性以及其代碼解釋器的濫用。 
• torchtune – Meta 的 Llama 3 使用一個適用 PyTorch 的庫來創建和實驗 LLM。 為什麼？ 因為它為微調提供了內存高效的訓練配方。 

我們已經完成了本文的理論部分。 現在，讓我們實際操作，學習如何使用 Meta AI 的 Llama 3。 

如何使用 Llama 3？

您想使用和訪問 Llama 3，但您不知道從何開始。 您是牠一支還是給牠食物？ 不，您只需在Facebook、Messenger、WhatsApp、Instagram或網絡上啟動Meta AI應用程序即可。 

它的工作方式類似於ChatGPT，這意味著您將有一個指定的區域，可以向Meta AI詢問任何問題。 

壞消息是，目前它僅在少數幾個國家可用，例如： 

• 美國
• 澳大利亞
• 加拿大
• 加納
• 牙買加
• 馬拉維
• 新西蘭
• 尼日利亞
• 巴基斯坦
• 新加坡
• 南非
• 烏干達
• 贊比亞
• 津巴布韋

因此，如果您不在這些國家之一，您可能會看到這個不幸的消息： 

然而，別擔心，Meta承諾會將更多國家添加到他們的列表中，因為他們才剛開始這段旅程。 所以請關注Llama 3何時會在您的地區可用。 

對於那些可以訪問的人，您所要做的就是訪問 llama.meta.com，然後在右上角點擊 試用Meta AI 。 

將打開一個新標籤，您可以在提示框中輸入您的內容。 

類似於ChatGPT，這個工具將根據您的提示生成所需的文本。

您還可以通過其他平台使用Llama 3，例如Hugging Face、Perplexity AI、Replicate、GPT4All、Ollama、ChatLabs或本地。 

交給你了！

Meta 為 Llama 3 準備了許多計劃，包括嘗試多種模態和開發其迄今為止最大的模型（超過 400B 參數）。 

這款AI軟件有潛力徹底改變市場，並為其他競爭者樹立新的質量標準。 但是，您知道還有誰能改變您的工作方式嗎？ 

Guru！ 

這是一個企業AI搜索、內部網絡和維基平台，可以提高您的團隊生產力。 總之，您可以搜索一切，從聊天到應用程序再到公司知識，並快速獲得所有查詢的答案。 

所有這些都無需切換應用程序。 

立即嘗試Guru以了解更多。 

‍

‍

‍