百度召開新聞發布會，發布大語言模型“文心一言”

3月16日下午,百度發布新一代大語言模型、生成式AI產品文心一言。百度創始人、董事長兼首席執行官李彥宏表示,文心一言的使用場景主要包含文學創作、商業文案創作、數理推算、中文理解和多模態生成。

同時百度還公布了文心一言的邀請測試方案。3月16日起,首批用戶可通過邀請測試碼,在文心一言官網體驗產品,后續將陸續開放給更多用戶。

此外,百度智能云即將面向企業客戶開放文心一言API接口調用服務。3月16日起正式開放預約,搜索“百度智能云”進入官網,可申請加入文心一言云服務測試。

李彥宏在現場多次提及,這類大語言模型還遠未到發展完善的階段,有賴于通過真實的用戶反饋而逐步迭代。

百度方面表示,文心一言大模型的訓練數據包括萬億級網頁數據、數十億的搜索數據和圖片數據、百億級的語音日均調用數據,以及5500億事實的知識圖譜等。

據百度介紹,文心一言的視頻生成能力則因成本較高,現階段還未對所有用戶開放,未來會逐步接入。

“多模態是生成式AI一個明確的發展趨勢。”李彥宏表示,“未來,隨著百度多模態統一大模型的能力增強,文心一言的多模態生成能力也會不斷提升。”

百度公司首席技術官（CTO）王海峰表示,“文心一言”是新一代知識增強大語言模型,是在ERNIE及PLATO系列模型的基礎上研發的；它的關鍵技術包括有監督精調、人類反饋的強化學習、提示、知識增強、檢索增強和對話增強。

王海峰稱,前三項是這類大語言模型都會采用的技術,ERNIE和PLATO中也已經有應用和積累,在文心一言中又有了進一步強化和打磨；后三項則是百度已有技術優勢的再創新,也是文心一言未來越來越強大的基礎。

李彥宏表示,目前百度是全球大廠中第一個做出對標ChatGPT產品的企業,“無論是哪家公司,都不可能靠突擊幾個月就能做出這樣的大語言模型。深度學習、自然語言處理,需要多年的堅持和積累,沒法速成。”

他認為,百度是全球為數不多在“芯片-框架-模型-應用”四層進行全棧布局的人工智能公司；而百度AI全棧布局的優勢在于,可以在技術棧的四層架構中實現端到端優化,大幅提升效率。尤其是框架層和模型層之間,有很強的協同作用,可以幫助構建更高效的模型,并降低成本。

超大規模模型的訓練和推理,給深度學習框架帶來了很大考驗。為了支持千億參數模型的高效分布式訓練,百度飛槳專門研發了4D混合并行技術。

百度官方信息顯示,自2月份百度官宣“文心一言”以來,已有超過650家企業宣布接入文心一言生態。

李彥宏預測,大語言模型將帶來三大產業機會。

第一類是新型云計算公司,其主流商業模式從IaaS變為MaaS。之前企業選擇云廠商更多看算力、存儲等基礎云服務。未來,更多會看框架好不好、模型好不好,以及模型、框架、芯片、應用這四層之間的協同。

第二類是進行行業模型精調的公司。這是通用大模型和企業之間的中間層,他們可以基于對行業的洞察,調用通用大模型能力,為行業客戶提供解決方案。目前百度文心大模型已經在電力、金融、媒體等領域,發布了10多個行業大模型。

第三類是基于大模型底座進行應用開發的公司,即應用服務提供商。李彥宏斷言,對于大部分創業者和企業來說,真正的機會并不是從頭開始做ChatGPT和文心一言這樣的基礎大模型,這很不現實,也不經濟。

基于通用大語言模型搶先開發重要的應用服務,這可能才是真正的機會。基于文本生成、圖像生成、音頻生成、視頻生成、數字人、3D等場景,可能會出現更多新機會。

“我們相信,人工智能會徹底改變我們今天的每一個行業。AI的長期價值,對各行各業的顛覆性改變,才剛剛開始。未來,將會有更多的殺手級應用、現象級產品出現,將會有更多的里程碑事件發生。”李彥宏表示。