北京時(shí)間4月6日凌晨,Meta發(fā)布人工智能新模型系列 Llama 4,包括Llama 4 Scout、Llama 4 Maverick 和 Llama 4 Behemoth。
Meta在聲明中表示,Llama 4是一個(gè)多模態(tài)AI系統(tǒng),能夠處理和整合文本、視頻、圖像、音頻等多種數(shù)據(jù)類(lèi)型,并能在不同格式之間實(shí)現(xiàn)內(nèi)容轉(zhuǎn)換。所有這些模型都經(jīng)過(guò)了 “大量未標(biāo)注的文本、圖像和視頻數(shù)據(jù)” 的訓(xùn)練,以使它們具備 “廣泛的視覺(jué)理解能力”。
據(jù)介紹,Scout和Maverick是該公司首款采用混合專(zhuān)家架構(gòu)(MoE)的模型,兩者均以開(kāi)源形式發(fā)布。其中,Scout有170億個(gè)活躍參數(shù)、16個(gè)“專(zhuān)家”模型、1090億個(gè)總參數(shù);Maverick也有170億個(gè)活躍參數(shù),但有128個(gè)“專(zhuān)家”模型,總參數(shù)量高達(dá)4000億。
此外,Meta還預(yù)告了Llama 4 Behemoth,稱(chēng)其為“全球最聰明的語(yǔ)言模型之一,將作為未來(lái)模型訓(xùn)練的教師模型”。Llama 4 Behemoth 在多個(gè) STEM 基準(zhǔn)測(cè)試中的表現(xiàn)優(yōu)于 GPT-4.5、Claude Sonnet 3.7 和 Gemini 2.0 Pro。
Meta表示,其人工智能助手Meta AI已在40個(gè)國(guó)家更新為使用Llama 4模型,但目前多模態(tài)功能僅在美國(guó)以英語(yǔ)提供。
在發(fā)布人工智能新模型系列 Llama 4時(shí),Meta首席執(zhí)行官扎克伯格指出,“我很久以前就說(shuō)過(guò),我認(rèn)為開(kāi)源人工智能將成為領(lǐng)先的模型,而隨著Llama 4的推出,這一切已經(jīng)開(kāi)始發(fā)生。Meta AI今天得到了一次重大升級(jí)?!?/span>
據(jù)知情人士透露,Llama 3已經(jīng)推出一年了,而Llama4之所以遲遲未能發(fā)布,是因?yàn)樵陂_(kāi)發(fā)過(guò)程中,該模型在技術(shù)基準(zhǔn)上沒(méi)有達(dá)到Meta的預(yù)期,尤其是在推理和數(shù)學(xué)任務(wù)方面。此外,Meta也擔(dān)心其模型在模擬人類(lèi)語(yǔ)音對(duì)話方面不如OpenAI的模型。