過去三年,生成式AI大模型狂飆突進(jìn),從Stable Diffusion引爆AIGC創(chuàng)作革命,到DeepSeek震撼全球科技圈。
但與AI開源生態(tài)的繁榮形成鮮明對(duì)比的,是國(guó)內(nèi)AI開發(fā)者面臨的算力和開發(fā)工具支持不足的瓶頸。
針對(duì)這一行業(yè)需求痛點(diǎn),4月7日,專注于系統(tǒng)級(jí)芯片(SoC)及智能終端設(shè)備的國(guó)內(nèi)科技創(chuàng)新企業(yè)愛簿智能發(fā)布了行業(yè)首款“算力本"暨首臺(tái)Linux AI開發(fā)本——AIBOOK,在賦能廣大開發(fā)者的同時(shí),也開創(chuàng)了AI PC“算力本”的新品類,推動(dòng)AI終端“物種”的新變化。
AI時(shí)代開發(fā)者的“困境”
隨著DeepSeek通過開源的方式加速技術(shù)迭代,模型的能力越來越強(qiáng),商業(yè)應(yīng)用領(lǐng)域越來越多,這顯著降低了大模型的訓(xùn)練和推理成本。
一方面,無論是個(gè)人需求還是企業(yè)需求,都徹底被引爆了。中小企業(yè)包括個(gè)人開發(fā)者更加容易接觸到大模型技術(shù),人人都是開發(fā)者的時(shí)代已經(jīng)到來。
但另一方面,以生成式AI大模型為代表的這場(chǎng)技術(shù)革命背后,對(duì)于開發(fā)者而言,卻面臨兩大核心挑戰(zhàn)。
一是算力不足且成本高。追求更好的模型需要萬卡或更大規(guī)模的集群,目前海外算力受到限制,國(guó)內(nèi)算力生態(tài)還處于培育中,因此,一般的企業(yè)和開發(fā)者往往陷入“買不起云、跑不動(dòng)端、等不起結(jié)果”的困境。
二是開發(fā)工具鏈支持不足,開發(fā)環(huán)境配置復(fù)雜、流程不統(tǒng)一、難以滿足大模型、智能體等應(yīng)用快速迭代的需求。
“部署開發(fā)環(huán)境流程繁瑣、坑特別多,使得很多初學(xué)者倒在了第一關(guān)。比如,大模型都是基于Linux開源又穩(wěn)定的系統(tǒng)服務(wù)器訓(xùn)練出來的,所以很多人工智能的開發(fā)框架都基于Linux。在實(shí)際開發(fā)中,開發(fā)者首先是要完成跨平臺(tái)開發(fā),通常需要在其他操作系統(tǒng)上通過虛擬化方式運(yùn)行Linux,這個(gè)過程就會(huì)面臨很多問題,比如安裝配置復(fù)雜,兼容性問題,工具鏈和依賴庫(kù)的版本差異,這些工具不好導(dǎo)致的問題,不僅增加了開發(fā)的復(fù)雜性,開發(fā)者也消耗了很多無謂的精力?!睈鄄局悄軇?chuàng)始人兼CEO孫玉昆告訴集微網(wǎng)。
此外,即使把環(huán)境配置成功,但性能和原生Linux相比也有差異,不僅是CPU計(jì)算性能,GPU的模型訓(xùn)練也有一些損失,系統(tǒng)上導(dǎo)致了性能的損耗。因此,算力和開發(fā)工具的問題確實(shí)制約了很多開發(fā)者的效率和創(chuàng)新。
終結(jié)AI開發(fā)“工具荒漠”
在孫玉昆看來,全民AI開發(fā)時(shí)代呼喚新的生產(chǎn)力工具。PC時(shí)代,臺(tái)式機(jī)解決了從大型機(jī)到個(gè)人計(jì)算的問題。移動(dòng)時(shí)代,筆記本解決了移動(dòng)辦公的問題。到了AIGC時(shí)代,能夠解決輕量級(jí)體驗(yàn)AI,但都不能作為理想的AI開發(fā)工具,不能滿足全民AI開發(fā)時(shí)代的需求。
孫玉昆認(rèn)為,一個(gè)優(yōu)秀的AI生產(chǎn)力工具應(yīng)該具備以下幾個(gè)標(biāo)準(zhǔn)。
一是幫助開發(fā)者獲取算力自由。開發(fā)者需要強(qiáng)勁的算力面對(duì)復(fù)雜的AI模型訓(xùn)練和推理任務(wù),算力本既可以在端側(cè)或者離線環(huán)境下進(jìn)行復(fù)雜的AI開發(fā),而且能夠一鍵連接云端,自由調(diào)度集群算力,靈活應(yīng)對(duì)不同場(chǎng)景的需求。
二是賦能開發(fā)者工具使用自由。開發(fā)者需要完備的開發(fā)環(huán)境提高效率,算力本具備“開箱即用”的Linux開發(fā)環(huán)境,覆蓋從科學(xué)計(jì)算到深度學(xué)習(xí)的完整工具鏈,開發(fā)者無需煩瑣的配置即可快速投入開發(fā),專注于創(chuàng)新而不是煩瑣的配置。
三是助力開發(fā)者實(shí)現(xiàn)場(chǎng)景自由。開發(fā)者需要滿足多種場(chǎng)景的開發(fā)設(shè)備,應(yīng)該支持Linux開發(fā),同時(shí)也有方法接入Windows,能夠滿足辦公和娛樂需求。
因此,實(shí)現(xiàn)AI開發(fā)工具進(jìn)化,打造世界上最純粹的移動(dòng)AI計(jì)算工具,開發(fā)者隨身的AI開發(fā)設(shè)備,開箱即用的AI開發(fā)工具、AI學(xué)習(xí)平臺(tái)和AI實(shí)訓(xùn)工具,成為愛簿智能次推出AIBOOK的邏輯起點(diǎn)和產(chǎn)品定義的基礎(chǔ)。
據(jù)孫玉昆介紹,此次愛簿智能推出的AIBOOK具有四方面的能力:場(chǎng)景算力、高效AI開發(fā)、AI智能體應(yīng)用和旗艦配置。
全大核CPU+50TOPS算力
在算力方面,AIBOOK搭載了異構(gòu)AI計(jì)算平臺(tái)——愛簿智能出品的SoC AB100,采用全大核CPU設(shè)計(jì),搭載先進(jìn)的GPU和高能效NPU,采用Linux內(nèi)核的操作系統(tǒng)。
在配置方面,AIBOOK具備50TOPS本地算力,32GB大內(nèi)存和1TB大存儲(chǔ)。預(yù)裝Linux原生開發(fā)系統(tǒng),GPU驅(qū)動(dòng)、工具鏈、常用開發(fā)環(huán)境、編程工具全部預(yù)裝。這一套本地的開發(fā)環(huán)境和云端服務(wù)器集群的開發(fā)環(huán)境高度相近,具備極高的專業(yè)性。
目前,AI 學(xué)習(xí)、研究、開發(fā)以及云計(jì)算等工作,大多基于開源的 Linux 操作系統(tǒng),就連當(dāng)下備受矚目的具身智能機(jī)器人,其底層技術(shù)也采用了這一強(qiáng)大組合。AIBOOK 正是基于這樣的開源環(huán)境打造而成,讓用戶充分利用它進(jìn)行 AI 學(xué)習(xí)與實(shí)踐。
此外,AIBOOK 的算力種類豐富,應(yīng)用場(chǎng)景廣泛。它可以進(jìn)行各類AI模型的推理,涵蓋文生文的大語言模型、文生圖、文本到語音、語音到文本以及機(jī)器視覺模型等。最高能夠推理32B參數(shù)的大模型,運(yùn)行 70 億參數(shù)的模型時(shí)性能可達(dá)每秒接近 15 個(gè)token。除了transformer架構(gòu)的大模型,也能夠很好的支持基于RNN架構(gòu)的模型,比如RWKV等。
此外,AIBOOK 甚至還可以對(duì)一些小型模型進(jìn)行訓(xùn)練,例如機(jī)器視覺領(lǐng)域常用的 YoloV8 模型。同時(shí),它在圖形渲染、高性能計(jì)算以及 8K 視頻編解碼方面也表現(xiàn)出色。
除了端側(cè)算力,通過提供端云一體的混合算力,即在云端接到智算集群,可以通過無縫連接、智能路由去做大模型的部署、訓(xùn)練和推理。AIBOOK 可以無縫接入夸娥云,從而實(shí)現(xiàn)模型的訓(xùn)練、微調(diào)以及開發(fā)部署。
一站式開發(fā)能力
在高效AI開發(fā)方面,AIBOOK具備一站式的開發(fā)能力,擁有完善的工具鏈和豐富的資源,用戶可以在AIBOOK進(jìn)行本地的編程開發(fā),實(shí)現(xiàn)百億規(guī)模參數(shù)大模型的部署和推理,然后在夸娥云進(jìn)行模型的訓(xùn)練、微調(diào)、遷移或者更大模型的部署。
“大家在本地編程是用英語,云端也是用英語,這樣可以更高效,如果在本地是用另外一種語言開發(fā),云端是用第三方語言,本地所做的努力需要在云端重新學(xué)習(xí)一遍?,F(xiàn)在大模型進(jìn)展速度這么快,大家的學(xué)習(xí)成本還是挺高的,所以我們希望端側(cè)和云端的開發(fā)環(huán)境是統(tǒng)一的、專業(yè)的?!睂O玉昆告訴集微網(wǎng)。
AIBOOK內(nèi)置的原生智能體”穆莎”,”穆莎”是一款3D超寫實(shí)數(shù)字人,也是首款能夠在本地實(shí)時(shí)渲染、實(shí)時(shí)交互的數(shù)字人智能體,擁有34萬面片的高級(jí)基礎(chǔ)模型,借助AIBOOK強(qiáng)大的渲染能力,最高可以達(dá)到每秒100幀。具備更強(qiáng)大的智慧和出色的交互能力以及個(gè)性化的定制能力,加之豐富的AI應(yīng)用套件,讓模型從訓(xùn)練到應(yīng)用的全流程變得更簡(jiǎn)單高效。
小巧機(jī)身旗艦配置
除了硬件性能之外,AIBOOK的其他配置也拉滿,具備2.8K OLED屏幕,采用高達(dá)91%的超高屏占比設(shè)計(jì),支持120 Hz的高刷新率和硬件級(jí)的藍(lán)光護(hù)眼,保障視覺體驗(yàn)的同時(shí)還能夠呵護(hù)用戶的用眼健康。除了內(nèi)屏以外,我們外接可以接入4塊4K顯示器,輕松播放8K超高清視頻。機(jī)身纖細(xì)輕薄,最薄之處只有12.4mm,機(jī)身重量1.35kg左右,可以輕松放入日常背包,讓劃時(shí)代的AI體驗(yàn)和強(qiáng)大的計(jì)算性能可以隨身攜帶。
因?yàn)榇钶d數(shù)字人交互智能體,有4揚(yáng)聲器、4麥克風(fēng)陣列,可以支持遠(yuǎn)場(chǎng)識(shí)音,5-8米都可以清晰收音,大幅度提高人機(jī)互動(dòng)語音識(shí)別準(zhǔn)確性,確保聲音和識(shí)音都能夠帶來好的體驗(yàn)。
在操作系統(tǒng)方面,AIBOOK搭載了基于Linux的MT AIOS操作系統(tǒng),為AI用戶做了特別優(yōu)化。內(nèi)置DeepSeek 70億參數(shù)的大語言模型和語音模型,這些模型不僅預(yù)裝了智能體應(yīng)用,接口也能夠開放出來,開發(fā)者進(jìn)行二創(chuàng)應(yīng)用的時(shí)候也可以接入這些模型。AIBOOK支持本地和夸娥云端云協(xié)同計(jì)算,包括智能路由、意圖識(shí)別都能夠在AIBOOK實(shí)現(xiàn)。靈活支持多操作系統(tǒng),可以通過Windows API切換到云桌面,進(jìn)行傳統(tǒng)的辦公和開發(fā)。我們還有一項(xiàng)特別的技術(shù),就是通過Android容器支持安卓。
一個(gè)懸念
AIBOOK算力本最大的懸念似乎是價(jià)格,在當(dāng)日的發(fā)布會(huì)上并沒有宣布,該款產(chǎn)品將于4月11日下午14:00在京東平臺(tái)愛簿科技頁(yè)面開售。
雖然作為一款面向開發(fā)者的PC產(chǎn)品,各種配置屬性拉滿,但AIBOOK的價(jià)格應(yīng)該更親民一些。一方面,今年AI PC實(shí)現(xiàn)進(jìn)一步普及已經(jīng)是大勢(shì)所趨,另一方面,這也與人工智能的普惠與平權(quán),人人都是開發(fā)者的時(shí)代主題相呼應(yīng)。
AIBOOK的另一重意義在于,國(guó)內(nèi)廠商在AI時(shí)代,更多的開始引領(lǐng)行業(yè)的關(guān)鍵性技術(shù)創(chuàng)新和突破,以及終端形態(tài)和品類的變革,DeepSeek所帶來的震撼,可能會(huì)被更多中國(guó)AI廠商復(fù)制。
评论
文明上网理性发言,请遵守新闻评论服务协议
登录参与评论
0/1000