12月12日,,北京大學(xué)—字節(jié)跳動(dòng)“豆包大模型系統(tǒng)軟件聯(lián)合實(shí)驗(yàn)室”簽約儀式暨“面向大模型的智能化軟件技術(shù)與生態(tài)”學(xué)術(shù)研討會(huì)在北京大學(xué)舉行,。北京大學(xué)計(jì)算機(jī)學(xué)院院長(zhǎng)胡振江表示,聯(lián)合實(shí)驗(yàn)室的建立,,標(biāo)志著雙方合作走入更深,、更精、更密切的新階段,。未來,,聯(lián)合實(shí)驗(yàn)室將深入推進(jìn)大模型系統(tǒng)軟件研究,打造人工智能時(shí)代堅(jiān)實(shí)可靠的系統(tǒng)軟件基礎(chǔ)設(shè)施,。
胡振江指出,,智能化時(shí)代使資源的有效管理面臨重大挑戰(zhàn),對(duì)系統(tǒng)軟件提出更高要求,。聯(lián)合實(shí)驗(yàn)室將聚焦大模型時(shí)代智能化軟件基礎(chǔ)科學(xué)和關(guān)鍵技術(shù)問題,,特別是結(jié)合企業(yè)真實(shí)場(chǎng)景開展研究,加強(qiáng)原創(chuàng)性,、引領(lǐng)性,、關(guān)鍵性的科技攻關(guān);在人才培養(yǎng)方面,將打造高水平創(chuàng)新人才培養(yǎng)基地,,構(gòu)建產(chǎn)學(xué)研協(xié)同育人新模式,,培養(yǎng)具有扎實(shí)理論功底和實(shí)踐創(chuàng)新能力的復(fù)合型人才。
聯(lián)合實(shí)驗(yàn)室主任,、北京大學(xué)計(jì)算機(jī)學(xué)院教授劉譞哲告訴科技日?qǐng)?bào)記者,,大模型發(fā)展的核心是做好算力資源管理。這既需要良好的基礎(chǔ)設(shè)施,,也需要把基礎(chǔ)設(shè)施用好,,把用戶服務(wù)好,。
“我常打的一個(gè)比方就是,有很強(qiáng)的算力和硬件相當(dāng)于蓋了棟房子;而系統(tǒng)軟件相當(dāng)于物業(yè)和保安,。有了后者,,你才能住得安心?!眲⒆X哲說,,系統(tǒng)軟件介于上層應(yīng)用和底層硬件之間,它好比大模型時(shí)代的操作系統(tǒng),,或者大模型中的“滴滴出行”,,可以進(jìn)行算力調(diào)度和任務(wù)管理。
大模型時(shí)代,,系統(tǒng)軟件的重要性愈加凸顯,。高校和企業(yè)展開合作,也是順應(yīng)時(shí)代的需要,。企業(yè)有場(chǎng)景,、有課題,高校有基礎(chǔ)研究能力和在實(shí)踐中培養(yǎng)人才的需求——校企合作,,是一種共贏,。
劉譞哲舉了個(gè)例子。為了做大模型,,企業(yè)通常要部署很多GPU(圖形處理器)芯片卡,,形成GPU集群。一萬張卡中,,如果有一張卡出現(xiàn)錯(cuò)誤,,要怎么處理?
“在學(xué)校,我們沒有這么多卡,,只能從理論上推演,,不可能親眼見到‘萬里錯(cuò)一’到底是個(gè)什么情況?!眲⒆X哲說,,只有到業(yè)界,才能看到真實(shí)情況,,才能進(jìn)一步分析,卡是怎么壞的,,到底是硬件,、軟件還是網(wǎng)絡(luò)壞了;壞了要怎么辦,采用哪種技術(shù)路線更合適……“在解決問題的同時(shí),,我們還可以檢驗(yàn)和優(yōu)化已有的理論知識(shí),?!眲⒆X哲說。
很多經(jīng)驗(yàn)是前人總結(jié)的,,但在計(jì)算機(jī)領(lǐng)域,,很容易遇到前人沒有遇到過的情況。企業(yè)提出的是具體問題,,但高??蒲袌F(tuán)隊(duì)能在具體問題的基礎(chǔ)上,找到背后的基礎(chǔ)問題,?!八赡苁抢蠁栴}的新表現(xiàn),也可能是一個(gè)新問題,,解開了它,,就創(chuàng)造了新知識(shí)?!眲⒆X哲強(qiáng)調(diào),。
以聯(lián)合實(shí)驗(yàn)室為平臺(tái)與企業(yè)長(zhǎng)期穩(wěn)定合作,將進(jìn)一步促進(jìn)北京大學(xué)系統(tǒng)軟件技術(shù)科研成果在大模型等人工智能重要場(chǎng)景中的應(yīng)用轉(zhuǎn)化,。北京大學(xué)科技開發(fā)部副部長(zhǎng)鄭如青表示,,希望打造校企合作的示范樣板,推動(dòng)更多科技創(chuàng)新成果服務(wù)經(jīng)濟(jì)社會(huì)發(fā)展,。
劉譞哲告訴記者,,聯(lián)合實(shí)驗(yàn)室將圍繞大模型場(chǎng)景下智能化軟件系統(tǒng)關(guān)鍵技術(shù),充分融合雙方優(yōu)勢(shì)資源,,開展關(guān)鍵技術(shù)合作攻關(guān),,推動(dòng)成果應(yīng)用落地轉(zhuǎn)化,形成校企合作良性循環(huán),。具體來說,,要提高大模型訓(xùn)練的效率,降低大模型訓(xùn)練的故障率;提高大模型推理的吞吐量,,降低大模型推理的延遲,。
“學(xué)術(shù)頂天,真研究問題,,產(chǎn)生一流成果;系統(tǒng)落地,,研究真問題,形成一流影響,。同時(shí),,練就真功夫,培養(yǎng)一流人才,?!眲⒆X哲這樣展望聯(lián)合實(shí)驗(yàn)室的未來,。(記者 張蓋倫)
編輯:周大為