美國科技巨頭Meta近日發(fā)布了其最新的開源人工智能(AI)模型Llama 4,這一模型被譽(yù)為是迄今為止最先進(jìn)的多模態(tài)大模型。Llama 4有兩個(gè)版本,分別為Scout和Maverick,它們可以處理和整合各種類型的數(shù)據(jù),包括文本、視頻、圖像和音頻,并在這些格式之間轉(zhuǎn)換內(nèi)容。
Llama 4系列首次采用了混合專家(MoE)架構(gòu)的模型,該架構(gòu)可以將模型劃分為多個(gè)專注于特定任務(wù)的“專家”子模型,從而提高訓(xùn)練和回答用戶查詢時(shí)的效率。Scout擁有170億個(gè)活躍參數(shù)、16個(gè)“專家”模型、1090億個(gè)總參數(shù),而Maverick也有170億個(gè)活躍參數(shù),但有128個(gè)“專家”模型,總參數(shù)量高達(dá)4000億。
此外,Meta還在訓(xùn)練功能更強(qiáng)大的Behemoth,它被譽(yù)為是世界上最智能的大模型之一,被稱為“新模型中的教師”。所有這些模型都經(jīng)過了大量未標(biāo)注的文本、圖像和視頻數(shù)據(jù)的訓(xùn)練,以使它們具備廣泛的視覺理解能力。
Scout 和Maverick模型已在Llama.com網(wǎng)站以及Meta的合作伙伴處公開獲取,也可以在WhatsApp、Messenger、Instagram Direct上獲取。Meta的人工智能助手Meta AI已在40個(gè)國家更新為使用Llama 4模型,目前,多模態(tài)功能僅在美國以英語提供。
此次發(fā)布的Llama 4模型是Meta在Llama 3發(fā)布一年后的最新產(chǎn)品,其開發(fā)過程曾因技術(shù)基準(zhǔn)未達(dá)到預(yù)期而延遲發(fā)布。據(jù)了解,Meta計(jì)劃今年投入高達(dá)650億美元擴(kuò)大其人工智能基礎(chǔ)設(shè)施。