Meta 公司昨日（9 月 25 日）發(fā)布博文，正式推出了 Llama 3.2 AI 模型，其特點是開放和可定制，開發(fā)者可以根據(jù)其需求定制實現(xiàn)邊緣人工智能和視覺革命。
Llama 3.2 提供了多模態(tài)視覺和輕量級模型，代表了 Meta 在大型語言模型（LLMs）方面的最新進展，在各種使用案例中提供了更強大的功能和更廣泛的適用性。
其中包括適合邊緣和移動設(shè)備的中小型視覺 LLMs （11B 和 90B），以及輕量級純文本模型（1B 和 3B），此外提供預(yù)訓(xùn)練和指令微調(diào)（instruction-tuned）版本。
附上 4 個版本 AI 模型簡介如下：
Llama 3.2 90B Vision（文本 + 圖像輸入）：Meta 最先進的模型，是企業(yè)級應(yīng)用的理想選擇。該模型擅長常識、長文本生成、多語言翻譯、編碼、數(shù)學(xué)和高級推理。它還引入了圖像推理功能，可以完成圖像理解和視覺推理任務(wù)。該模型非常適合以下用例：圖像標題、圖像文本檢索、視覺基礎(chǔ)、視覺問題解答和視覺推理，以及文檔視覺問題解答。
Llama 3.2 11B Vision（文本 + 圖像輸入）：非常適合內(nèi)容創(chuàng)建、對話式人工智能、語言理解和需要視覺推理的企業(yè)應(yīng)用。該模型在文本摘要、情感分析、代碼生成和執(zhí)行指令方面表現(xiàn)出色，并增加了圖像推理能力。該模型的用例與 90B 版本類似：圖像標題、圖像文本檢索、視覺基礎(chǔ)、視覺問題解答和視覺推理，以及文檔視覺問題解答。
Llama 3.2 3B（文本輸入）：專為需要低延遲推理和有限計算資源的應(yīng)用而設(shè)計。它擅長文本摘要、分類和語言翻譯任務(wù)。該模型非常適合以下用例：移動人工智能寫作助手和客戶服務(wù)應(yīng)用。
Llama 3.2 1B（文本輸入）：Llama 3.2 模型系列中最輕量級的模型，非常適合邊緣設(shè)備和移動應(yīng)用程序的檢索和摘要。該模型非常適合以下用例：個人信息管理和多語言知識檢索。
其中 Llama 3.2 1B 和 3B 模型支持 128K 標記的上下文長度，在邊緣本地運行的設(shè)備用例（如摘要、指令跟蹤和重寫任務(wù)）中處于領(lǐng)先地位。這些模型在第一天就支持高通和聯(lián)發(fā)科硬件，并針對 Arm 處理器進行了優(yōu)化。
Llama 3.2 11B 和 90B 視覺模型可直接替代相應(yīng)的文本模型，同時在圖像理解任務(wù)方面優(yōu)于 Claude 3 Haiku 等閉源模型。
與其他開源多模態(tài)模型不同的是，預(yù)訓(xùn)練模型和對齊模型都可以使用 torchtune 針對自定義應(yīng)用進行微調(diào)，并使用 torchchat 進行本地部署。開發(fā)者還可以使用智能助手 Meta AI 試用這些模型。
Meta 將分享首批 Llama Stack 官方發(fā)行版，這將大大簡化開發(fā)人員在不同環(huán)境（包括單節(jié)點、內(nèi)部部署、云和設(shè)備）中使用 Llama 模型的方式，實現(xiàn)檢索增強生成（RAG）和工具支持型應(yīng)用的交鑰匙部署，并集成安全性。
Meta 一直在與 AWS、Databricks、Dell Technologies、Fireworks、Infosys 和 Together AI 等合作伙伴密切合作，為他們的下游企業(yè)客戶構(gòu)建 Llama Stack 發(fā)行版。設(shè)備分發(fā)通過 PyTorch ExecuTorch，單節(jié)點分發(fā)通過 Ollama。 
