機(jī)器之心報(bào)道
機(jī)器之心編輯部
百度智能云要用更強(qiáng)、更高效的千帆大模型平臺(tái)，打贏「大模型落地」這場(chǎng)戰(zhàn)爭(zhēng)。
5 月 28 日，中信所、科技部新一代人工智能發(fā)展研究中心等機(jī)構(gòu)聯(lián)合發(fā)布的《中國(guó)人工智能大模型地圖研究報(bào)告》顯示，中國(guó) 10 億參數(shù)規(guī)模以上的大模型數(shù)量為 79 個(gè)。上個(gè)月，賽迪顧問(wèn)發(fā)布的《IT 2023》研究顯示，截止 2023 年 7 月，我國(guó)現(xiàn)有大模型已經(jīng)達(dá)到 130 個(gè)。數(shù)量不斷增加，一方面反映國(guó)內(nèi)廠商看好并對(duì)大模型引領(lǐng)的 AI 技術(shù)發(fā)展浪潮的未來(lái)前景充滿信心，投入大量資金人力「押寶」它們；另一方面廠商正在面臨加速應(yīng)用落地的迫切命題，無(wú)論是通用大模型，還是垂類(lèi)行業(yè)大模型，當(dāng)務(wù)之急是找到客戶和契合的場(chǎng)景。廠商的另一面是客戶（包括企業(yè)、開(kāi)發(fā)者），他們用或不用很大程度影響了大模型的命運(yùn)。不過(guò)，從大模型的調(diào)用到場(chǎng)景應(yīng)用，并非一蹴而就，要處理的問(wèn)題還有很多，比如行業(yè)數(shù)據(jù)融合、后續(xù)調(diào)優(yōu)、推理算力消耗、安全評(píng)估。解決了用的問(wèn)題，更要關(guān)注用的順手、用的長(zhǎng)久。這些都需要大模型廠商下更多的功夫，從開(kāi)發(fā)到部署應(yīng)用整個(gè)鏈路，從大模型本身到平臺(tái)，要盡可能地「想客戶之所想、急客戶之所需」。在這方面，百度智能云利用大模型平臺(tái)滿足客戶多樣化應(yīng)用需求。9 月 5 日，2023 百度云智大會(huì)帶來(lái)了新一輪技術(shù)改進(jìn)和應(yīng)用落地，包括更完善的大模型產(chǎn)品、工具和服務(wù)，以及基于大模型能力重構(gòu)的四大行業(yè)解決方案。百度集團(tuán)執(zhí)行副總裁、智能云事業(yè)群總裁沈抖會(huì)上，我們看到了全新升級(jí)的百度智能云千帆大模型平臺(tái) 2.0，包含支持大模型和數(shù)據(jù)集數(shù)量最多、工具鏈最完善、算力效能最佳和企業(yè)級(jí)安全四大亮點(diǎn)。基于千帆平臺(tái)重構(gòu)數(shù)字政府、金融、工業(yè)和交通等四大行業(yè)解決方案，在支撐千行百業(yè)落地上收獲更多成功案例。AI 原生應(yīng)用 Family，將不同行業(yè)客戶共通的應(yīng)用場(chǎng)景和業(yè)務(wù)需求在一個(gè)應(yīng)用中搞定。首次公布月活企業(yè)數(shù)已近萬(wàn)家，覆蓋政務(wù)、交通等 400 多個(gè)業(yè)務(wù)場(chǎng)景，并推出最新的生態(tài)伙伴計(jì)劃。也就是說(shuō)，百度更好地提升基礎(chǔ)大模型實(shí)力的同時(shí)，也在迅速泛化自家的大模型能力給到各行各業(yè)、更多企業(yè)。接下來(lái)，我們就展開(kāi)說(shuō)說(shuō)此次的升級(jí)更新。我們觀察到，隨著大模型的不斷發(fā)展，一些主流大模型廠商開(kāi)始采用模型即服務(wù)（MaaS）這一創(chuàng)新模式，并希望基于這一理念構(gòu)建更大的大模型平臺(tái)或社區(qū)，讓客戶既可以自由調(diào)用各類(lèi)第三方模型服務(wù)，又能夠基于自有數(shù)據(jù)、特色開(kāi)發(fā)、部署和調(diào)用專(zhuān)屬服務(wù)。不過(guò)，滿足客戶需求并不是簡(jiǎn)單提供大模型就行了，配套的部署工具和算力等更底層的支撐同樣重要，很大程度上決定了他們是否用得起、用得順、用得高效。百度智能云在今年 3 月便有了動(dòng)作，推出全球首個(gè)一站式企業(yè)級(jí)大模型平臺(tái) —— 千帆大模型平臺(tái)。自那時(shí)起便開(kāi)始致力于降低部署大模型門(mén)檻，加速通用或細(xì)分場(chǎng)景需求的落地。此后持續(xù)升級(jí)，全面接入 Llama 2 等 33 個(gè)第三方模型，預(yù)置 Prompt 模板，讓需求迅速被理解。目的只有兩個(gè)，一是讓平臺(tái)更易用、更高效，二是讓客戶更方便、更輕松。此次，全新升級(jí)的百度智能云千帆大模型平臺(tái) 2.0（以下稱(chēng)千帆 2.0） 用更強(qiáng)、更全的功能和特性，拓寬和加深了平臺(tái)能力。下面為千帆 2.0 全景圖，我們從頂層、中間層到底層依次來(lái)解讀。在頂層，千帆 2.0 支持的主流大模型增加到 42 個(gè)，數(shù)量國(guó)內(nèi)最多，滿足客戶更多樣業(yè)務(wù)場(chǎng)景需求。談到為何持續(xù)增加大模型數(shù)量，沈抖表示，「大家可以根據(jù)自己業(yè)務(wù)的需要和場(chǎng)景來(lái)選擇一個(gè)或多個(gè)大模型，滿足不同業(yè)務(wù)場(chǎng)景的需求。」僅僅增加數(shù)量還不夠，千帆 2.0 針對(duì) Llama2、Falcon 等國(guó)外主流大模型做了中文增強(qiáng)，中文理解和生成能力顯著提升，實(shí)現(xiàn)與英文語(yǔ)境下同樣好的對(duì)話效果。開(kāi)源模型也得到「特別關(guān)照」，知識(shí)增強(qiáng)、長(zhǎng)期記憶增強(qiáng)、文檔知識(shí)問(wèn)答等各類(lèi)長(zhǎng)上下文理解能力更有力地釋放。此外大模型在訓(xùn)練與推理層面也得到增強(qiáng)，以 Llama2 為例，總體吞吐可以提升 25%，推理速度提升 2 倍。這意味著聊天中更即時(shí)的響應(yīng)速度、更快速的 AI 任務(wù)完成，用戶感知體驗(yàn)大大提升。眾所周知，數(shù)據(jù)是煉大模型成功的關(guān)鍵。接入大模型后很多時(shí)候還要做數(shù)據(jù)微調(diào)，這時(shí)如果有拿來(lái)即用的數(shù)據(jù)集就方便多了。千帆 2.0 考慮到了這一點(diǎn)，它預(yù)置了 41 個(gè)高質(zhì)量、具有行業(yè)特色的數(shù)據(jù)集，通用、專(zhuān)用和指令皆有，為缺少相關(guān)數(shù)據(jù)的客戶省去了數(shù)據(jù)處理成本，使用時(shí)只需要點(diǎn)幾個(gè)按鈕就能順利完成微調(diào)。此外還提供了客服對(duì)話、文案續(xù)寫(xiě)等 10 個(gè)精選應(yīng)用范式，用標(biāo)準(zhǔn)化的服務(wù)提升應(yīng)用開(kāi)發(fā)效率。與大模型配套的工具鏈?zhǔn)菍⑺鼈兣c應(yīng)用場(chǎng)景「貫通」的重要橋梁，對(duì)大模型使用效率的高低、客戶開(kāi)發(fā)環(huán)境的好壞極為關(guān)鍵。千帆 2.0 在中間層圍繞大模型開(kāi)發(fā)、訓(xùn)練、部署、應(yīng)用開(kāi)發(fā)全生命周期，提供了最豐富、最全面的工具鏈。一站式設(shè)計(jì)保證了大模型飛速運(yùn)轉(zhuǎn)，通過(guò)無(wú)縫銜接全生命周期各個(gè)業(yè)務(wù)流程，讓企業(yè)擺脫重復(fù)造輪子的困境，工程效率自然而然得到提升。效果也是立竿見(jiàn)影，以往耗時(shí)一周才能調(diào)試、 跑通看到的效果，千帆 2.0 工具鏈則實(shí)現(xiàn)了當(dāng)天見(jiàn)效果，效率提升的同時(shí)周期大大縮短。對(duì)于客戶而言，省時(shí)省力又省錢(qián)。來(lái)到千帆 2.0 的底層 ——AI 算力基礎(chǔ)設(shè)施。大模型對(duì)算力的需求巨大，是支撐自身發(fā)展的底層動(dòng)力。因此，對(duì)于算力不足、「燒不起」大模型的客戶而言，算力層面決定了他們用得起用不起。此次千帆 2.0 用最佳的算力效能，讓客戶在訓(xùn)練大模型時(shí)不再有或更少有算力上的壓力。一方面千帆 2.0 在分布式并行訓(xùn)練策略加持下，萬(wàn)卡規(guī)模集群的加速比達(dá)到 95%，整體算力充分釋放。另一方面關(guān)注萬(wàn)卡集群的運(yùn)行效率，內(nèi)置高效的集群組網(wǎng)故障排除機(jī)制，能夠快速完成故障定位和恢復(fù)，在效率上幾乎拉滿。國(guó)內(nèi)外不同廠商不同代際的芯片實(shí)現(xiàn)了同一平臺(tái)混合部署、高效配合使用，進(jìn)一步突破算力桎梏。安全性也是使用大模型時(shí)面臨的一大挑戰(zhàn)，輸入輸出內(nèi)容、使用數(shù)據(jù)是否合法合規(guī)、違背倫理規(guī)范，這些都要給予重視。千帆 2.0 用企業(yè)級(jí)安全全方位把控大模型的模型、內(nèi)容和數(shù)據(jù)安全，成為唯一一個(gè)提供最完備大模型安全方案的平臺(tái)。可以看到，從底層算力、中間層工具鏈到頂層大模型，千帆 2.0 做到了環(huán)環(huán)相扣。正如沈抖所言，千帆 2.0 的一切升級(jí)為了讓客戶更方便地用上、用好大模型。千帆已賦能十余個(gè)行業(yè)
400 多個(gè)業(yè)務(wù)場(chǎng)景
隨著技術(shù)的不斷進(jìn)步，人們看到了 AI 時(shí)代大模型大規(guī)模落地的可行性。此前 AI 就像「空中樓閣」，研發(fā)成本高、投入時(shí)間長(zhǎng)、對(duì)人才的需求量大…… 大模型落地很困難，實(shí)用性更是無(wú)從談起。不僅如此，對(duì)于一些非 IT、互聯(lián)網(wǎng)公司來(lái)說(shuō)，想要讓新技術(shù)賦能自家產(chǎn)品，從頭開(kāi)始研發(fā)耗費(fèi)巨大。這時(shí)，如果將 AI 大廠研發(fā)的技術(shù)和其公司的產(chǎn)品相結(jié)合，可以達(dá)到事半功倍的效果。這段時(shí)間以來(lái)，我們已經(jīng)見(jiàn)證了一些生產(chǎn)力工具正在被 AI 重新改寫(xiě)（如搜索引擎），大模型正在給我們的學(xué)習(xí)、辦公等各個(gè)方面帶來(lái)便利，例如它能生成文本、幫助碼農(nóng)編寫(xiě)一段代碼、根據(jù)對(duì)話生成圖片……雖然大模型如雨后春筍般不斷崛起，其帶來(lái)的便利也真真正正的影響到了很多人。但對(duì)于垂直行業(yè)來(lái)說(shuō)，如何將大模型的能力與行業(yè)場(chǎng)景有效結(jié)合成為擺在賽道玩家們面前的一道課題，也是一道難題。很多人認(rèn)為可適用于任何場(chǎng)景的大模型才是最優(yōu)模型，然而事實(shí)并非如此。大模型適用任何場(chǎng)景是有代價(jià)的，可能會(huì)缺乏行業(yè)深度，無(wú)法保證數(shù)據(jù)隱私和安全、輸出答案的真實(shí)性無(wú)法保證。同時(shí)通用大模型普遍參數(shù)量巨大，對(duì)算力要求極高。這時(shí)就體現(xiàn)出了垂直大模型的價(jià)值。如今我們可看到，百度智能云開(kāi)始在垂直行業(yè)發(fā)力。千帆 2.0 已經(jīng)在政務(wù)、金融、工業(yè)、交通等十余個(gè)行業(yè)落地應(yīng)用。百度智能云打造的「九州」基于大模型能力全面重構(gòu)，實(shí)現(xiàn)了更加智能化的一網(wǎng)統(tǒng)管、一網(wǎng)通辦、一網(wǎng)協(xié)同。只需要?句話、?個(gè)問(wèn)題，大模型就能根據(jù)需要生成洞察，發(fā)現(xiàn)問(wèn)題的根因，同時(shí)給出處置建議，從而實(shí)現(xiàn)更加精細(xì)化的城市治理。小到公文寫(xiě)作，大到部門(mén)統(tǒng)籌、決策支撐，「九州」讓政務(wù)人員的辦公效率提升了幾十倍。千帆 2.0 不僅為政務(wù)帶來(lái)了便利，在工業(yè)領(lǐng)域也效果顯著。百度智能云提出了基于大模型重構(gòu)的百度智能云工業(yè)解決方案 ——「開(kāi)物」，實(shí)現(xiàn)了產(chǎn)線優(yōu)化向產(chǎn)業(yè)鏈優(yōu)化躍進(jìn)。除了政務(wù)和工業(yè)外，我們還看到千帆 2.0 在金融、智能交通等領(lǐng)域的成功落地。- 基于大模型重構(gòu)的百度智能云金融解決方案 —— 開(kāi)元，可以幫助金融機(jī)構(gòu)提升運(yùn)營(yíng)效率和業(yè)務(wù)質(zhì)量。
- 基于大模型全面重構(gòu)的百度智能云智能交通解決方案 —— ACE3.0 ，利用了大模型強(qiáng)大的知識(shí)壓縮能力，將車(chē)、路、云、圖的基本能力和交通全要素進(jìn)行了聚合和泛化升級(jí)，形成了具有領(lǐng)先優(yōu)勢(shì)的智能交通「中國(guó)方案」。
發(fā)布 11 個(gè) AI 原生應(yīng)用除了上述行業(yè)垂直解決方案外，百度智能云還正式推出跨行業(yè)的 AI 原生應(yīng)用 Family，包含 11 個(gè) AI 原生應(yīng)用產(chǎn)品，重點(diǎn)覆蓋服務(wù)營(yíng)銷(xiāo)、辦公提效、生產(chǎn)優(yōu)化三大領(lǐng)域。其中升級(jí)了曦靈數(shù)字人平臺(tái)、發(fā)布企業(yè)搜索引擎甄知和安全生產(chǎn)智能助手度安安，以及其余八個(gè)應(yīng)用產(chǎn)品。首先在服務(wù)營(yíng)銷(xiāo)領(lǐng)域，百度智能云曦靈數(shù)字人平臺(tái)進(jìn)行了「形、神」兩大升級(jí)。在形象方面，可用原來(lái)三分之一的成本、十分之一的制作周期，渲染出媲美好萊塢級(jí)別的高清 3D 數(shù)字人，并且曦靈是目前全行業(yè)唯一能用數(shù)字人來(lái)做服裝展示的平臺(tái)。在人設(shè)及靈魂上，升級(jí)后的數(shù)字人將擁有強(qiáng)大的通識(shí)知識(shí)，并融會(huì)貫通金融、文旅、電商等各領(lǐng)域?qū)I(yè)知識(shí)，塑造個(gè)性化人設(shè)。此外，百度智能云也針對(duì)金融、電商等領(lǐng)域訓(xùn)練出了「模板數(shù)字員工」，只需企業(yè)稍微調(diào)試一下，這些數(shù)字人就可以「上崗」了。在辦公提效方面，百度智能云推出了基于大模型重構(gòu)的全新企業(yè)搜索引擎百度智能云甄知。該產(chǎn)品可幫助員工跨模態(tài)、跨應(yīng)用的迅速找到想要的內(nèi)容，此外借助該產(chǎn)品還可實(shí)現(xiàn)知識(shí)找人，它能向員工推送他可能感興趣的文檔，輔助員工持續(xù)學(xué)習(xí)。在生產(chǎn)優(yōu)化領(lǐng)域，百度智能云重磅發(fā)布了安全生產(chǎn)智能助手度安安。讓大模型幫助企業(yè)進(jìn)行安全管理，從感知智能升級(jí)為決策智能，大幅提升安全生產(chǎn)監(jiān)控效率和決策質(zhì)量。過(guò)去，安全生產(chǎn)面臨三大難題：一是安全制度太繁瑣，安全培訓(xùn)時(shí)工人們根本記不住，遇到緊急情況又來(lái)不及查資料，從而造成錯(cuò)誤；二是告警信息太多，工人們看不過(guò)來(lái)；三是經(jīng)驗(yàn)豐富的老師傅太少。為了解決上述問(wèn)題，百度智能云把各種安全制度、預(yù)警信息和老師傅的經(jīng)驗(yàn)全部用來(lái)訓(xùn)練大模型，從而推出了懂安全生產(chǎn)的度安安。它可以把各種安全預(yù)警歸類(lèi)總結(jié)，整理地清清楚楚；可以自動(dòng)生成檢修工單，迅速回答工人們用自然語(yǔ)言咨詢的各種安全問(wèn)題。2023 年已經(jīng)過(guò)去了大半，大模型這股 AI 技術(shù)浪潮方興未艾，并正在從單純追求性能提升進(jìn)入到廣泛尋求落地的關(guān)鍵階段。但其實(shí)大模型落地應(yīng)用有個(gè)很大難題，就是很多企業(yè)不知道在哪些場(chǎng)景利用大模型，然后才是不知道如何用上大模型。百度智能云在今天大會(huì)上一系列的發(fā)布，有一個(gè)重要的目標(biāo)，就是希望能為「大模型應(yīng)用」打個(gè)樣，讓大家看到大模型在諸如營(yíng)銷(xiāo)、辦公等場(chǎng)景帶來(lái)的機(jī)遇，從而積極參與進(jìn)來(lái)，進(jìn)一步催生出「大模型應(yīng)用」繁榮生態(tài)。百度智能云對(duì)千帆的目標(biāo)是成為最好用的大模型平臺(tái)，從而吸引越來(lái)越多的企業(yè)能夠借助千帆平臺(tái)，打造出更多、更好的大模型產(chǎn)品。在我們看來(lái)，「千帆」之名有更深一層的意義，在于百度智能云為更多企業(yè)架起「千帆」，加速「大模型落地」。
本站僅提供存儲(chǔ)服務(wù)，所有內(nèi)容均由用戶發(fā)布，如發(fā)現(xiàn)有害或侵權(quán)內(nèi)容，請(qǐng)
點(diǎn)擊舉報(bào)。
