王海峰首談文心一言背后研發(fā)故事：技術(shù)創(chuàng)新就是要挑戰(zhàn)沒人做過的事

2023-08-28 16:43:56來源：新華網(wǎng)

【資料圖】

近日，深度學(xué)習(xí)技術(shù)及應(yīng)用國(guó)家工程研究中心主任、百度首席技術(shù)官王海峰做客CCTV-10《創(chuàng)新中國(guó)說》，展示大語(yǔ)言模型文心一言的能力，闡述人工智能技術(shù)原理、重大戰(zhàn)略意義及產(chǎn)業(yè)應(yīng)用。從技術(shù)創(chuàng)新到產(chǎn)業(yè)落地，抽絲剝繭，為觀眾揭秘人工智能。

節(jié)目中，文心一言作為“特殊嘉賓”登臺(tái)，先是為《創(chuàng)新中國(guó)說》生成了一篇片花詞，簡(jiǎn)短精煉有文采，隨后還為節(jié)目繪制了一張海報(bào)，科技感十足。文心一言順利完成任務(wù)，背后的技術(shù)原理是什么？

據(jù)了解，文心一言是百度自主研發(fā)的知識(shí)增強(qiáng)大語(yǔ)言模型，能夠根據(jù)用戶的輸入，生成符合需求的內(nèi)容。

王海峰介紹，從技術(shù)原理上講，首先基于深度神經(jīng)網(wǎng)絡(luò)，融合海量數(shù)據(jù)和知識(shí)，進(jìn)行知識(shí)增強(qiáng)的學(xué)習(xí)，得到預(yù)訓(xùn)練大模型。然后采用有監(jiān)督精調(diào)、人類反饋的強(qiáng)化學(xué)習(xí)、提示等關(guān)鍵技術(shù)，讓大語(yǔ)言模型生成的內(nèi)容更符合人的規(guī)范、習(xí)慣和價(jià)值觀。文心一言具備知識(shí)增強(qiáng)、檢索增強(qiáng)、對(duì)話增強(qiáng)等獨(dú)特技術(shù)優(yōu)勢(shì)，生成內(nèi)容準(zhǔn)確性更高、時(shí)效性更好、邏輯更清晰。

王海峰把文心一言的研發(fā)類比為參加奧運(yùn)會(huì)，他認(rèn)為技術(shù)創(chuàng)新過程就是要挑戰(zhàn)沒人做過的事。

如今，這一目標(biāo)已在文心大模型的迭代升級(jí)中離我們?cè)絹碓浇?jù)悉，文心一言的基礎(chǔ)模型已升級(jí)到文心大模型3.5，訓(xùn)練速度達(dá)到原來的3倍，推理速度達(dá)到原來的30多倍。

王海峰指出，縱觀人類經(jīng)歷的三次工業(yè)革命，其核心驅(qū)動(dòng)力量機(jī)械技術(shù)、電氣技術(shù)和信息技術(shù)都有很強(qiáng)的通用性，當(dāng)它們呈現(xiàn)出標(biāo)準(zhǔn)化、自動(dòng)化和模塊化的工業(yè)大生產(chǎn)特征，核心技術(shù)就進(jìn)入工業(yè)大生產(chǎn)階段。“當(dāng)前的人工智能技術(shù)也具有很強(qiáng)的通用性，顯現(xiàn)了標(biāo)準(zhǔn)化、模塊化、自動(dòng)化的特征。人工智能已經(jīng)進(jìn)入工業(yè)大生產(chǎn)階段，廣泛應(yīng)用于各行各業(yè)，成為科技革命和產(chǎn)業(yè)變革的重要驅(qū)動(dòng)力量。”

隨著文心一言進(jìn)一步落地，這類大語(yǔ)言模型會(huì)成為一個(gè)通用的賦能平臺(tái)，金融、能源、媒體、政務(wù)等各行業(yè)各領(lǐng)域都可以基于文心一言實(shí)現(xiàn)智能化變革，提高效率，推動(dòng)我國(guó)人工智能產(chǎn)業(yè)加速發(fā)展，促進(jìn)科技進(jìn)步、產(chǎn)業(yè)升級(jí)和生產(chǎn)力整體躍遷，為我國(guó)經(jīng)濟(jì)高質(zhì)量發(fā)展注入動(dòng)能。

關(guān)鍵詞：

責(zé)任編輯：hnmd003