【香港中通社4月6日電】4月5日，臉書母公司meta推出最新兩款大型語言模型Llama 4 Scout和Llama 4 Maverick。meta稱，它們是公司“迄今最先進的模型”，且是“同類中最佳的多模態模型”。
meta表示，Llama 4是其首個採用混合專家（MoE）架構的模型系列，這種架構在訓練和回答查詢時計算效率更高。混合專家架構基本上是將數據處理任務分解為子任務，然後將它們委派給更小的、專門的“專家”模型。
例如，Maverick總共有4000億個參數，但在128個“專家”模型中只有170億個活躍參數（參數數量大致與模型的問題解決能力相對應）。Scout有170億個活躍參數、16個“專家”模型以及總計1090億個參數。
在中國大語言模型DeepSeek引領開源浪潮以前，meta一直是開源模型的行業領先者。Llama系列模型由meta在2022年推出。Llama是一種多模態人工智能（AI）系統，能够處理和整合多種類型的數據，包括文本、視頻、圖像和音頻，且可以轉換成不同格式。
美國OpenAI的大語言模型ChatGPT橫空出世7個多月後，2023年，meta就率先宣布開源Llama 2，並且可免費商用。這也成為大模型發展的分水嶺。
本月5日meta最新發布的是Llama第四代模型的兩個版本，它們也將開源。meta還稱，另一款模型Llama 4 Behemoth還在“訓練”中，並稱之為“世界上最聰明的大型語言模型之一”。
