產(chǎn)業(yè)調(diào)研系列
歡迎來(lái)到GTC大會(huì)，GTC是我們面向開(kāi)發(fā)者的一場(chǎng)盛會(huì)，這個(gè)全球NVIDIA生態(tài)系統(tǒng)涵蓋400萬(wàn)開(kāi)發(fā)者、4萬(wàn)家公司和1.4萬(wàn)家初創(chuàng)公司。感謝我們的鉆石贊助商，他們?yōu)槲覀兲峁┐罅χС植⒅?023年GTC大會(huì)取得巨大成功。GTC大會(huì)的發(fā)展令人難以置信，就在四年前，我們的線(xiàn)下GTC大會(huì)還只有8000名與會(huì)者。在2023年GTC大會(huì)上，阿貢實(shí)驗(yàn)室的Valeri Taylor、Adobe的Scott Belsky、Netflix的Paul Debevec、蘇黎世聯(lián)邦理工學(xué)院的Thomas Schulthess等領(lǐng)導(dǎo)者學(xué)習(xí)，并且我還將與創(chuàng)造出ChatGPT的OpenAI公司的聯(lián)合創(chuàng)始人Ilya Sutskever進(jìn)行一場(chǎng)特別的討論。
來(lái)自學(xué)術(shù)界和全球大型行業(yè)的精英獎(jiǎng)帶來(lái)650場(chǎng)精彩演講：僅與生成式AI相關(guān)的演講就超過(guò)70場(chǎng)。其他精彩演講，例如適用于機(jī)器人開(kāi)發(fā)的預(yù)訓(xùn)練多任務(wù)模型，還有推進(jìn)AI發(fā)展的重要方法——合成數(shù)據(jù)生成的演講，包括如何使用Isaac Sim生成基于物理性質(zhì)的激光雷達(dá)點(diǎn)云。還有一系列關(guān)于數(shù)字孿生的演講，從使用AI拓展未來(lái)的虛擬工廠(chǎng)，到重現(xiàn)遺失了的古羅馬馬賽克藝術(shù)作品，內(nèi)容多種多樣。
有關(guān)于計(jì)算儀器的炫酷演講，包括巨型光學(xué)望遠(yuǎn)鏡和光子計(jì)數(shù)CT，以及用于碳捕獲和太陽(yáng)能電池的材料科學(xué)以及氣候科學(xué)的討論，及我們?cè)贓arth-2上所做的工作。NVIDIA研究團(tuán)隊(duì)也將帶來(lái)重要演講，探討關(guān)于值得信賴(lài)的AI和AI安全等議題。還有從微芯片的計(jì)算光刻技術(shù)，到制造最小的機(jī)器，再到將AI應(yīng)用在大型強(qiáng)子對(duì)撞機(jī)中以解釋宇宙的議題。
大會(huì)匯集了全球最重要的公司和企業(yè)，包括汽車(chē)和交通運(yùn)輸業(yè)、醫(yī)療健康業(yè)、制造業(yè)、金融服務(wù)業(yè)、零售業(yè)、服裝業(yè)、媒體和娛樂(lè)業(yè)、電信業(yè)以及全球頂尖的AI公司。GTC大會(huì)的宗旨是激勵(lì)全世界，告訴大家，加速計(jì)算是可以實(shí)踐的。并為科學(xué)家和研究人員通過(guò)利用該技術(shù)取得的成就喝彩。
NVIDIA率先推出加速計(jì)算，著力解決普通計(jì)算機(jī)無(wú)法解決的問(wèn)題。加速計(jì)算并非易事，它需要從芯片、系統(tǒng)、網(wǎng)絡(luò)、加速庫(kù)到重構(gòu)應(yīng)用的全棧發(fā)明，從圖形、成像、粒子或流體動(dòng)力學(xué)、量子物理學(xué)，到數(shù)據(jù)處理和機(jī)器學(xué)習(xí)，每個(gè)經(jīng)過(guò)優(yōu)化的堆棧都會(huì)加速對(duì)應(yīng)應(yīng)用領(lǐng)域。加速后，應(yīng)用可以獲得令人難以置信的速度，還可以擴(kuò)展到許多臺(tái)計(jì)算機(jī)。
在過(guò)去十年中，加速和縱向擴(kuò)展的結(jié)合使我們能夠?yàn)樵S多應(yīng)用實(shí)現(xiàn)百萬(wàn)倍的性能提升，進(jìn)而有助于解決以前無(wú)法解決的問(wèn)題。雖然存在許多示例，但最著名的一個(gè)是深度學(xué)習(xí)。2012年，Alex Kerchevsky、Ilya Suskever和Geoff Hinton需要一臺(tái)速度超快的計(jì)算機(jī)來(lái)訓(xùn)練AlexNet計(jì)算機(jī)視覺(jué)模型，研究人員在GeForce GTX 580上使用1400萬(wàn)張圖像訓(xùn)練了AlexNet，可處理262千萬(wàn)億次浮點(diǎn)運(yùn)算。經(jīng)過(guò)訓(xùn)練的模型以壓倒性?xún)?yōu)勢(shì)贏(yíng)得了ImageNet挑戰(zhàn)賽，并觸發(fā)了AI的大爆炸。
十年后，Transformer模型面世了。現(xiàn)在任職于OpenAI的Ilya訓(xùn)練了GPT-3大型語(yǔ)言模型來(lái)預(yù)測(cè)下一個(gè)單詞，訓(xùn)練GPT-3需要進(jìn)行323 x 10e21次浮點(diǎn)運(yùn)算，浮點(diǎn)運(yùn)算量比訓(xùn)練AlexNet多一百萬(wàn)倍。結(jié)果創(chuàng)造出了ChatGPT，這個(gè)震驚全世界的AI。嶄新的計(jì)算平臺(tái)已經(jīng)誕生，AI的“iPhone時(shí)刻”已經(jīng)到來(lái)，加速計(jì)算和AI技術(shù)已經(jīng)走進(jìn)現(xiàn)實(shí)。
加速庫(kù)是加速計(jì)算的核心，這些加速庫(kù)連接到了各種應(yīng)用中，進(jìn)而再連接到遍布的各行各業(yè)，形成了網(wǎng)絡(luò)中的網(wǎng)絡(luò)。經(jīng)過(guò)30年的開(kāi)發(fā)，已經(jīng)有數(shù)千款應(yīng)用倍NVIDIA的庫(kù)加速，幾乎涉及科學(xué)和工業(yè)的每個(gè)領(lǐng)域。所有NVIDIA GPU都兼容CUDA，為開(kāi)發(fā)者提供了龐大的安裝基礎(chǔ)和廣泛的覆蓋范圍，大量加速應(yīng)用吸引了終端用戶(hù)，這為云服務(wù)提供商和計(jì)算機(jī)制造商創(chuàng)造了一個(gè)龐大的市場(chǎng)，這個(gè)市場(chǎng)大到足以投入數(shù)十億的研發(fā)費(fèi)用來(lái)推動(dòng)其增長(zhǎng)。
NVIDIA建立了加速計(jì)算的良性循環(huán)，在涵蓋光線(xiàn)追蹤和神經(jīng)渲染、物理、地球和生命科學(xué)、量子物理學(xué)和化學(xué)、計(jì)算機(jī)視覺(jué)、數(shù)據(jù)處理、機(jī)器學(xué)習(xí)和AI的300個(gè)加速庫(kù)和400個(gè)AI模型中，我們今年更新了其中的100個(gè)，讓所有正在使用中的用戶(hù)享受到更高的性能、更多的功能。
下面，我來(lái)重點(diǎn)介紹一些可以解決新挑戰(zhàn)、開(kāi)辟新市場(chǎng)的加速庫(kù)。汽車(chē)和航空航天行業(yè)使用CFD進(jìn)行湍流和空氣動(dòng)力學(xué)仿真，電子行業(yè)使用CFD進(jìn)行熱管理設(shè)計(jì)，這是Cadence的幻燈片，展示了由CUDA加速的新CFD求解器。在同等系統(tǒng)成本下，NVIDIA A100的吞吐量是CPU服務(wù)器的9倍?；蛘?，在同等方針吞吐量下，NVIDIA的成本降低了9倍、能耗降低了17倍。Ansys、Siemens、Cadence和其他先進(jìn)的CFD求解器現(xiàn)已采用CUDA加速。在全球范圍內(nèi)，工業(yè)CAE每年使用近1000億CPU核心小時(shí)。加速計(jì)算是減少功耗、實(shí)現(xiàn)可持續(xù)發(fā)展和凈零排放的最好方式。
NVIDIA正在與全球量子計(jì)算研究社區(qū)合作，NVIDIA Quantum平臺(tái)由庫(kù)和系統(tǒng)組成，可供研究人員推進(jìn)量子編程模型、系統(tǒng)架構(gòu)和算法。cuQuantum是用于量子電路仿真的加速庫(kù)，IBM Qiskit、Google Cirq、百度量易伏、QMWare、QuEra、Xanadu Pennylane、Agnostiq和AWS Bracket已將cuQuantum集成到他們的仿真框架中。Open Quantum CUDA是我們的混合GPU-Quantum編程模型IonQ、ORCA Computing、Atom、QuEra、Oxford Quantum Circuits、IQM、Pasqal、Quantum Brilliance、Quantinuum、Rigetti、Xanadu和Anyon已經(jīng)集成Open Quantum CUDA。要從量子噪聲和退相干中恢復(fù)數(shù)據(jù)，需要對(duì)大量量子比特進(jìn)行糾錯(cuò)。
今天，我們宣布推出一個(gè)量子控制鏈路，這是與Quantum Machines合作開(kāi)發(fā)的，它可將NVIDIA GPU連接到量子計(jì)算機(jī)，以極快的速度進(jìn)行糾錯(cuò)。雖然商用量子計(jì)算機(jī)還有十到二十年的時(shí)間才能實(shí)現(xiàn)，但我們很高興能通過(guò)NVIDIA Quantum為這個(gè)充滿(mǎn)活力的大型研究社區(qū)提供支持。全球企業(yè)使用Apache Spark處理數(shù)據(jù)湖和倉(cāng)庫(kù)，SQL查詢(xún)、圖分析和推薦系統(tǒng)，Spark-RAPIDS是NVIDIA加速的Apache Spark數(shù)據(jù)處理引擎。數(shù)據(jù)處理是全球5000億美元云計(jì)算支出的主要工作負(fù)載。
現(xiàn)在，Spark-RAPIDS可加速主要云數(shù)據(jù)處理平臺(tái)，包括GCP Dataproc、Amazon EMR、Databricks和Cloudera，推薦系統(tǒng)使用向量數(shù)據(jù)庫(kù)來(lái)存儲(chǔ)、索引、搜索和檢索非結(jié)構(gòu)化的大型數(shù)據(jù)集。
向量數(shù)據(jù)庫(kù)的一個(gè)新型重要用例是大型語(yǔ)言模型，在文本生成過(guò)程中可用于檢索領(lǐng)域特定事實(shí)或?qū)Ｓ惺聦?shí)。我們將推出一個(gè)新的庫(kù)，即RAFT，用于加速索引、數(shù)據(jù)加載和緊鄰檢索。我們正在將RAFT的加速引入到Meta的開(kāi)源FAISS AI相似性搜索，超過(guò)1000家組織使用的Milvus開(kāi)源向量數(shù)據(jù)庫(kù)以及Docker鏡像下載次數(shù)超過(guò)40億次的Redis。對(duì)于構(gòu)建專(zhuān)有大型語(yǔ)言模型的組織而言，向量數(shù)據(jù)庫(kù)至關(guān)重要。
22年前，運(yùn)籌學(xué)研究科學(xué)家Li和Lim發(fā)布了一系列具有挑戰(zhàn)性的揀取和配送問(wèn)題（PDP）。PDP出現(xiàn)在制造、運(yùn)輸、零售和物流，甚至救災(zāi)領(lǐng)域。PDP是旅行商問(wèn)題的泛化，同時(shí)也是NP-hard問(wèn)題，這意味著不存在有效算法來(lái)找到精確解，隨著問(wèn)題規(guī)模的增加，求解時(shí)間會(huì)呈階乘增長(zhǎng)。NVIDIA cuOpt使用進(jìn)化算法和加速計(jì)算，每秒分析300億次動(dòng)作，打破了世界紀(jì)錄，并為L(zhǎng)i和Lim的挑戰(zhàn)找到了合適的解決方案，AT&T定期派遣3萬(wàn)名技術(shù)人員為700個(gè)地理區(qū)域的1300萬(wàn)客戶(hù)提供服務(wù)。
如今，如果在CPU上運(yùn)行，AT&T的調(diào)度優(yōu)化需要一整夜的時(shí)間，AT&T處理完找到一個(gè)實(shí)時(shí)調(diào)度解決方案，能不斷優(yōu)化緊急客戶(hù)需求和整體客戶(hù)滿(mǎn)意度，同時(shí)能針對(duì)延誤和出現(xiàn)的新事件進(jìn)行調(diào)整。借助cuOpt，AT&T可以將查找解決方案的速度加快100倍并實(shí)時(shí)更新其調(diào)度方案。AT&T已采用全套NVIDIA AI庫(kù)，除了Spark-RAPIDS和cuOPT之外，他們還將Riva用于對(duì)話(huà)式AI，并將Omniverse用于數(shù)字人。AT&T正在利用NVIDIA加速計(jì)算和AI來(lái)實(shí)現(xiàn)高可持續(xù)性、成本節(jié)約和新的服務(wù)。
CuOpt還可以?xún)?yōu)化物流服務(wù)。每年有4000億個(gè)包裹被投遞到3770個(gè)站點(diǎn)，德勤、Capgemini、Softserve、埃森哲和Quantiphi正在使用NVIDIA cuOpt來(lái)幫助客戶(hù)優(yōu)化運(yùn)營(yíng)。NVIDIA的推理平臺(tái)由三個(gè)軟件SDK組成，NVDIA TensorRT用于推理運(yùn)行時(shí)針對(duì)指定GPU進(jìn)行性能優(yōu)化；NVIDIA Triton用于數(shù)據(jù)中心的推理服務(wù)，支持多種深度學(xué)習(xí)框架，支持GPU和CPU。TensorRT和Triton已有4萬(wàn)余名客戶(hù)，其中包括Microsoft Office 和Teams，Amazon、美國(guó)運(yùn)通和美國(guó)郵政署。Uber使用Triton每秒為數(shù)十萬(wàn)車(chē)輛預(yù)測(cè)到達(dá)時(shí)間，Roblox擁有超6000萬(wàn)的日活用戶(hù)，它使用Triton來(lái)部署包括游戲推薦、構(gòu)建虛擬形象、審核內(nèi)容和市場(chǎng)廣告的模型。
我們將發(fā)布一些強(qiáng)大的新功能：支持集成模型的模型分析器、并發(fā)多模型服務(wù)，以及適用于GPT-3大語(yǔ)言模型的多GPU、多節(jié)點(diǎn)推理。NVIDIA Triton Management Service是我們的新軟件，可在整個(gè)數(shù)據(jù)中心自動(dòng)擴(kuò)展和編排Triton推理示例。NVIDIA Triton Management Service將幫助您提高部署模型的吞吐量和成本效率，50%-80%的云視頻管線(xiàn)運(yùn)行在CPU上，這增加了功耗和成本，并增加了延遲。
用于計(jì)算機(jī)視覺(jué)的CV-CUDA和用于視頻處理的VPF是新的云規(guī)模加速庫(kù)，CV-CUDA包括30個(gè)計(jì)算機(jī)視覺(jué)算子，可用于檢測(cè)、分割和分類(lèi)。VPF是一個(gè)Python視頻編解碼加速庫(kù)，騰訊使用CV-CUDA和VPF每天處理30萬(wàn)個(gè)視頻，Microsoft使用CV-CUDA和VPF來(lái)處理視覺(jué)搜索，超級(jí)酷的Runway公司使用VC-CUDA和VPF為其云生成式AI視頻編輯服務(wù)處理視頻。視頻已經(jīng)占據(jù)了80%的互聯(lián)網(wǎng)流量，用戶(hù)生成的視頻內(nèi)容正在顯著增長(zhǎng)，并消耗大量能源，我們應(yīng)該加速所有視頻處理服務(wù)并減少能源消耗。CV-CUDA和VPF處于搶先體驗(yàn)階段。
NVIDIA加速計(jì)算幫助基因組學(xué)實(shí)現(xiàn)了里程碑式發(fā)展，現(xiàn)在醫(yī)生可以在同一次就診中抽取患者的血液并對(duì)其DNA進(jìn)行測(cè)序。另一個(gè)里程碑是，使用NVIDIA助力的儀器設(shè)備，將整個(gè)基因組測(cè)序的成本降低至僅需100美元?；蚪M學(xué)是合成生物學(xué)的重要工具，從藥物研發(fā)、農(nóng)業(yè)到能源生產(chǎn)，其應(yīng)用范圍非常廣泛。
NVDIA Parabricks是一套AI加速庫(kù)，可用于云端或儀器設(shè)備內(nèi)的端到端基因組分析，NVDIA Parabricks適用于各種公有云和基因組學(xué)平臺(tái)。今天，我們宣布推出Parabricks4.1，并將會(huì)在PacBio、Oxford Nanopore、Ultima、Singular、BioNano和Nanostring的第四代NVIDIA加速基因組學(xué)設(shè)備上運(yùn)行。全球價(jià)值2500億美元的醫(yī)療設(shè)備市場(chǎng)正在發(fā)生變革，醫(yī)療設(shè)備將由軟件定義、并且由AI進(jìn)行賦能。
NVIDIA Holoscan是一個(gè)適用于實(shí)時(shí)傳感器處理系統(tǒng)的軟件庫(kù)，超過(guò)75家公司正在通過(guò)Holoscan開(kāi)發(fā)醫(yī)療設(shè)備。今天我們宣布，全球醫(yī)療設(shè)備行業(yè)領(lǐng)導(dǎo)者M(jìn)edtronic將與NVIDIA攜手為軟件定義的醫(yī)療設(shè)備構(gòu)建其AI平臺(tái)。此次合作將為Medtronic系統(tǒng)打造一個(gè)通用平臺(tái)，從手術(shù)導(dǎo)航到機(jī)器人輔助手術(shù)皆包含在內(nèi)。今天，Medtronic宣布基于NVIDIA Holoscan構(gòu)建新一代GI Genius系統(tǒng)，將AI用于早期檢測(cè)結(jié)腸癌并將于今年年底推出。
芯片行業(yè)幾乎是各行各業(yè)的基礎(chǔ)，芯片制造要求極高的精確度，生產(chǎn)出的特征比細(xì)菌小1000倍，大小約為一個(gè)金原子或一條人類(lèi)DNA鏈的尺寸。光刻，即在晶圓上創(chuàng)建圖案的過(guò)程，是芯片制造過(guò)程中的起始階段，包括兩個(gè)階段-光掩模制作和圖案投影。
從根本上來(lái)說(shuō)，這是一個(gè)物理極限下的成像問(wèn)題，光掩模如同芯片中的模版光線(xiàn)被阻擋或穿過(guò)掩模，到達(dá)晶片以形成圖案。光線(xiàn)由ASML EUV極紫外線(xiàn)光刻系統(tǒng)產(chǎn)生，每個(gè)系統(tǒng)的價(jià)值超過(guò)2.5億美元。ASML EUV采用一種顛覆性的方式來(lái)制造光線(xiàn)，激光脈沖每秒向一滴錫發(fā)射5萬(wàn)次，使其汽化，產(chǎn)生一種能發(fā)射13.5納米EUV光的等離子體，幾乎是X射線(xiàn)。隨后，多層鏡面引導(dǎo)光線(xiàn)至光掩模，光掩模中的多層反射器利用13.5納米光的干涉圖案實(shí)現(xiàn)更精細(xì)特征，精細(xì)度可達(dá)到3納米。
晶圓的定位精度達(dá)到四分之一納米，并且每秒對(duì)準(zhǔn)2萬(wàn)次以消除任何震動(dòng)的影響。光刻之前的步驟同樣令人不可思議，計(jì)算光刻應(yīng)用逆物理算法來(lái)預(yù)測(cè)掩模版上的圖案，以便在晶圓上生成最終圖案。事實(shí)上，掩模上的圖案與最終特征完全不相似，計(jì)算光刻模擬了光通過(guò)光學(xué)元件并與光刻膠相互作用時(shí)的行為，這些行為是麥克斯韋方程組描述的。
計(jì)算光刻是芯片設(shè)計(jì)和制造領(lǐng)域中最大的計(jì)算工作負(fù)載，每年消耗數(shù)百億CPU小時(shí)，大型數(shù)據(jù)中心24 x7全天候運(yùn)行，以便創(chuàng)建用于光刻系統(tǒng)的掩模版。這些數(shù)據(jù)中心是芯片制造商每年投資近2000億美元的資本支出的一部分，隨著算法越來(lái)越復(fù)雜，計(jì)算光刻技術(shù)也在快速發(fā)展，使整個(gè)行業(yè)能夠達(dá)到2納米及以上。
NVIDIA今天宣布推出cuLitho-一個(gè)計(jì)算光刻庫(kù)。cuLitho是一項(xiàng)歷時(shí)近四年的龐大任務(wù)，我們與臺(tái)積電、ASML和Synopsys密切合作，將計(jì)算光刻加速了40倍以上。NVIDIA H100需要89塊掩模版，在CPU上運(yùn)行時(shí)，處理單個(gè)掩模版當(dāng)前需要兩周時(shí)間。
如果在GPU上運(yùn)行cuLitho，只需8小時(shí)即可處理完一個(gè)掩模版。臺(tái)積電可以通過(guò)在500個(gè)DGX H100系統(tǒng)上使用cuLitho加速，將功率從35MW降至5MW，從而替代用于計(jì)算光刻的4萬(wàn)臺(tái)CPU服務(wù)器。借助cuLitho，臺(tái)積電可以縮短原型周期時(shí)間、提高產(chǎn)量、減少制造過(guò)程中的碳足跡，并為2納米及以上的生產(chǎn)做好準(zhǔn)備。臺(tái)積電將于6月開(kāi)始對(duì)cuLitho進(jìn)行生產(chǎn)資格認(rèn)證，所有行業(yè)都需要加速各種工業(yè)負(fù)載，以便我們能減少功耗，達(dá)到事半功倍的效果。
在過(guò)去十年中，云計(jì)算每年增長(zhǎng)20%，成為了價(jià)值1萬(wàn)億美元的巨大行業(yè)，大約3000萬(wàn)臺(tái)CPU服務(wù)器完成大部分處理工作，而挑戰(zhàn)即將到來(lái)。隨著摩爾定律的終結(jié)，CPU性能的提高也會(huì)伴隨著功耗的增加。另外，減少碳排放這一任務(wù)從根本上與增加數(shù)據(jù)中心的需求相悖，云計(jì)算的發(fā)展受功耗限制。首要的，數(shù)據(jù)中心必須加速各種工作負(fù)載，加速將會(huì)減少功耗，節(jié)省的能源可以促進(jìn)新的增長(zhǎng)，未經(jīng)過(guò)加速的工作負(fù)載都將會(huì)在CPU上處理。
加速云數(shù)據(jù)中心的CPU側(cè)重點(diǎn)與過(guò)去有著根本性的不同，在A(yíng)I和云服務(wù)中，加速計(jì)算卸載可并行的工作負(fù)載，而CPU可處理其他工作負(fù)載，比如Web RPC和數(shù)據(jù)庫(kù)查詢(xún)。我們?yōu)锳I和云優(yōu)先的行業(yè)設(shè)計(jì)了Grace CPU，其中AI工作負(fù)載由GPU加速，單線(xiàn)程執(zhí)行和內(nèi)存處理則是Grace的擅長(zhǎng)之處。但這不僅僅是CPU芯片的問(wèn)題，數(shù)據(jù)中心管理員負(fù)責(zé)對(duì)整個(gè)數(shù)據(jù)中心的吞吐量和TCO進(jìn)行優(yōu)化。
為了在云數(shù)據(jù)中心規(guī)模下實(shí)現(xiàn)高能效，我們?cè)O(shè)計(jì)了Grace。Grace包含72個(gè)Arm核心，由超高速片內(nèi)可擴(kuò)展的、緩存一致的網(wǎng)絡(luò)連接，可提供3.2TB/s的截面帶寬，Grace Superchip通過(guò)900GB/s的低功耗芯片到芯片緩存一致接口，連接兩個(gè)CPU芯片之間的144個(gè)核，內(nèi)存系統(tǒng)由LPDDR低功耗內(nèi)存構(gòu)成（與手機(jī)上使用的相似），我們專(zhuān)門(mén)對(duì)此進(jìn)行了增強(qiáng)，以便在數(shù)據(jù)中心中使用。它提供1TB/s的帶寬，是目前系統(tǒng)的2.5倍，而功耗只是其1/8。整個(gè)144核Grace Superchip模組的大小僅為5 x 8英寸，而內(nèi)存高達(dá)1TB。該模組的功耗超低，風(fēng)冷即可，這是帶有被動(dòng)冷卻功能的計(jì)算模組。兩臺(tái)Grace Superchip計(jì)算機(jī)可以安裝進(jìn)一臺(tái)1U風(fēng)冷服務(wù)器即可正常運(yùn)行。
Grace的性能和能效非常適合云計(jì)算應(yīng)用和科學(xué)計(jì)算應(yīng)用，我們使用熱門(mén)的Google基準(zhǔn)測(cè)試（測(cè)試云微服務(wù)的通信速度）和Hi-Bench套件（測(cè)試Apache Spark內(nèi)存密集型數(shù)據(jù)處理）測(cè)試了Grace，此類(lèi)工作負(fù)載是云數(shù)據(jù)中心的基礎(chǔ)。在微服務(wù)方面，Grace的速度比最新一代x86 CPU的平均速度快1.3倍，而在數(shù)據(jù)處理中則快1.2倍。而達(dá)到如此高性能，整機(jī)功耗僅為原來(lái)服務(wù)器的60%。云服務(wù)提供商可以為功率受限的數(shù)據(jù)中心配備超過(guò)1.7倍的Grace服務(wù)器，每臺(tái)服務(wù)器的吞吐量提高25%。在功耗相同的情況下，Grace使云服務(wù)提供商獲得了兩倍的增長(zhǎng)機(jī)會(huì)。Grace正在進(jìn)行樣本調(diào)測(cè)，華碩、Atos、GB、HPE】QCT、Supermicro、Wistron和ZT目前正在構(gòu)建系統(tǒng)。
在現(xiàn)代軟件定義的數(shù)據(jù)中心中，操作系統(tǒng)在執(zhí)行虛擬化、網(wǎng)絡(luò)、存儲(chǔ)和安全任務(wù)時(shí)會(huì)消耗一半的數(shù)據(jù)中心CPU核心和相關(guān)功耗。數(shù)據(jù)中心必須加速每個(gè)工作負(fù)載，從而降低功耗并釋放CPU給可創(chuàng)造收入的工作負(fù)載。NVIDIA BlueField卸載并加速數(shù)據(jù)中心操作系統(tǒng)和基礎(chǔ)設(shè)施軟件，Check Point、思科、DDN、Dell EMC、Juniper、Palo Alto Networks使用BlueField的數(shù)據(jù)中心加速技術(shù)來(lái)更高效地運(yùn)行其軟件平臺(tái)。BlueField-3已投入生產(chǎn)，并被領(lǐng)先的云服務(wù)商所采用以加速其云計(jì)算平臺(tái)，比如百度、CoreWeave、京東、Microsoft Azure、Oracle OCI和騰訊游戲。
NVIDIA加速計(jì)算始于DGX（AI超級(jí)計(jì)算機(jī)），這是大語(yǔ)言模型實(shí)現(xiàn)突破背后的引擎，我親手將全球首款DGX交給了OpenAI。自此之后，《財(cái)富》100強(qiáng)企業(yè)中有一半安裝了DGX AI超級(jí)計(jì)算機(jī)，DGX已成為AI領(lǐng)域的必備工具。DGX配有8個(gè)H100 GPU模組，H100配有Transformer引擎，旨在處理類(lèi)似令人驚嘆的ChatGPT模型。ChatGPT是生成式預(yù)訓(xùn)練Transformer模型的代表，這8個(gè)H100模組通過(guò)NVLINK Switch彼此相連，以實(shí)現(xiàn)全面無(wú)阻塞通信。
8個(gè)H100協(xié)同工作，就像一個(gè)巨型GPU，計(jì)算網(wǎng)絡(luò)是AI超級(jí)計(jì)算機(jī)的重要系統(tǒng)之一，400Gbps超低延遲的NVIDIA Quantum InfiniBand具有網(wǎng)絡(luò)內(nèi)計(jì)算功能，可將成千上萬(wàn)個(gè)DGX節(jié)點(diǎn)連接成一臺(tái)超級(jí)AI計(jì)算機(jī)。NVIDIA DGX H100是全球客戶(hù)構(gòu)建AI基礎(chǔ)設(shè)施基礎(chǔ)的藍(lán)圖，現(xiàn)在已全面投入生產(chǎn)。
令我倍感激動(dòng)的是，微軟宣布Azure將向其H100 A1超級(jí)計(jì)算機(jī)開(kāi)放私人預(yù)覽版，Atos、AWS、Cirrascale、CoreWeave、戴爾、Gigabyte、谷歌、HPE、Lambda Labs、聯(lián)想、Oracle、Quanra和SuperMicro也將很快開(kāi)放系統(tǒng)和云服務(wù)。DGX AI超級(jí)計(jì)算機(jī)的市場(chǎng)獲得了顯著增長(zhǎng)，從最初被用作AI研究工具，DGX AI超級(jí)計(jì)算機(jī)正在不斷擴(kuò)展其應(yīng)用范圍，能夠全天候運(yùn)行以?xún)?yōu)化數(shù)據(jù)和處理AI。DGX超級(jí)計(jì)算機(jī)是現(xiàn)代AI工廠(chǎng)，我們正處于A(yíng)I的“iphone時(shí)刻”，初創(chuàng)公司競(jìng)相構(gòu)建具有顛覆性的產(chǎn)品和商業(yè)模式，而老牌公司則在尋求應(yīng)對(duì)之法。
生成式AI引發(fā)了全球企業(yè)制定AI戰(zhàn)略的緊迫感，客戶(hù)需要更簡(jiǎn)單快捷地訪(fǎng)問(wèn)NVIDIA AI。我們宣布推出NVIDIA DHX Cloud，通過(guò)與Microfost Azure、Google GCP和Oracle OCI合作，通過(guò)一個(gè)瀏覽器就可以將NVIDIA DGX AI超級(jí)計(jì)算機(jī)即時(shí)地接入每家公司。DGX Cloud經(jīng)過(guò)優(yōu)化，可運(yùn)行NVIDIA AI Enterprise，這是一款全球領(lǐng)先的加速庫(kù)套件，用于A(yíng)I端到端開(kāi)發(fā)和部署。
DGX Cloud為客戶(hù)提供出色的NVIDIA AI以及全球主要的云服務(wù)提供商，這一合作將NVIDIA的生態(tài)系統(tǒng)引入到了云服務(wù)提供商，NVIDIA觸及的范圍得以擴(kuò)展。這種雙贏(yíng)的合作伙伴關(guān)系為迫切需要使用生成式AI的客戶(hù)提供了在全球云端即時(shí)訪(fǎng)問(wèn)NVIDIA AI的機(jī)會(huì)。我們很高興我們的業(yè)務(wù)模型以這種速度、規(guī)模和覆蓋范圍在云上拓展。Oracle Cloud Infrastructure（OCI）將成為首個(gè)NVIDIA DGX Cloud，OCI具有出色的性能，它擁有兩層計(jì)算網(wǎng)絡(luò)和管理網(wǎng)絡(luò)，具有業(yè)界最佳RDMA功能的NVIDIA CX-7提供了計(jì)算網(wǎng)絡(luò)，而B(niǎo)lueField-3將成為管理網(wǎng)絡(luò)的基礎(chǔ)設(shè)施處理器。這種組合是一款先進(jìn)的DGX AI超級(jí)計(jì)算機(jī)，可提供多租戶(hù)云服務(wù)。我們擁有50家EA企業(yè)客戶(hù)，涵蓋消費(fèi)互聯(lián)網(wǎng)和軟件、醫(yī)療健康、媒體、娛樂(lè)及金融服務(wù)。
ChatGPT、Stable Diffusion、DALL-E和Midjourney喚醒了世界對(duì)生成式AI的認(rèn)知，這些應(yīng)用的易用性和令人印象深刻的功能，短短幾個(gè)月內(nèi)就吸引了超過(guò)一億的用戶(hù)。ChatGPT是迄今歷史上用戶(hù)數(shù)量增長(zhǎng)最快的應(yīng)用，無(wú)需訓(xùn)練只需給這些模型下指令即可。您可以使用精確提示，也可以使用模擬提示，如果提示不夠清晰，ChatGPT會(huì)根據(jù)對(duì)話(huà)了解您的意圖。ChatGPT可以撰寫(xiě)備忘錄和詩(shī)歌，改寫(xiě)研究論文，解決數(shù)學(xué)問(wèn)題，突出合同的關(guān)鍵點(diǎn)，甚至編寫(xiě)軟件程序。
ChatGPT是一臺(tái)計(jì)算機(jī)，它不僅可以運(yùn)行軟件，還能編寫(xiě)軟件。眾多突破性成果造就了生成式AI, Transformer能以大規(guī)模并行的方式，從數(shù)據(jù)的關(guān)系和依賴(lài)性中學(xué)習(xí)上下文和含義，這使得大型語(yǔ)言模型能夠利用海量數(shù)據(jù)進(jìn)行學(xué)習(xí)。他們可以在沒(méi)有明確訓(xùn)練的情況下執(zhí)行下游任務(wù)，受物理學(xué)啟發(fā)的擴(kuò)散模型通過(guò)無(wú)監(jiān)督學(xué)習(xí)來(lái)生成圖像。
在短短幾十年里，我們經(jīng)歷了從試圖識(shí)別貓到生成穿著太空服在月球上行走的逼真貓圖像。生成式AI是一種新型計(jì)算機(jī)，一種我們可以用人類(lèi)語(yǔ)言進(jìn)行編程的計(jì)算機(jī)，這種能力影響深遠(yuǎn)。每個(gè)人都可以命令計(jì)算機(jī)來(lái)解決問(wèn)題，而之前這是只有計(jì)算機(jī)程序員才能接觸的領(lǐng)域，現(xiàn)在每個(gè)人都可以是程序員。生成式AI是一種新型計(jì)算平臺(tái)，與PC、互聯(lián)網(wǎng)、移動(dòng)設(shè)備和云類(lèi)似，與之前的計(jì)算時(shí)代類(lèi)似，先行者正在打造新的應(yīng)用并成立新公司，以利用生成式AI的自動(dòng)化和協(xié)同創(chuàng)作能力。借助Debuild，用戶(hù)只需說(shuō)明自己想要的內(nèi)容即可設(shè)計(jì)和部署web應(yīng)用。
Grammerly是一款可以結(jié)合上下文的寫(xiě)作助手，Tabnine可幫助開(kāi)發(fā)者編寫(xiě)代碼，Omnekey可生成定制廣告和文案，Kore.ai是虛擬客服，Jasper可生成營(yíng)銷(xiāo)材料，Jasper已經(jīng)編寫(xiě)了近50億字，將初稿生成時(shí)間縮短了80%。Insilico利用AI加速藥物設(shè)計(jì)，Absci正在使用AI預(yù)測(cè)治療抗體。
生成式AI將重塑幾乎所有行業(yè)，許多公司都可以使用某個(gè)即將上市的超贊的生成式AI API。一些專(zhuān)業(yè)領(lǐng)域的公司需要使用其專(zhuān)有數(shù)據(jù)來(lái)構(gòu)建定制模型，他們需要制定使用規(guī)范并優(yōu)化模型，以契合公司的安全、隱私和安保要求。
這個(gè)行業(yè)需要一個(gè)類(lèi)似臺(tái)積電的代工廠(chǎng)，來(lái)構(gòu)建自定義的大型語(yǔ)言模型。今天，我們宣布推出NVIDIA AI Foundations，這是一項(xiàng)云服務(wù)，面向需要構(gòu)建、優(yōu)化和運(yùn)營(yíng)定制LLM（大型語(yǔ)言模型）和生成式AI，使用其專(zhuān)有數(shù)據(jù)進(jìn)行訓(xùn)練。NVIDIA AI Foundations包括語(yǔ)言、視覺(jué)和生物學(xué)模型制作服務(wù)。NVIDIA Nemo用于構(gòu)建定制的語(yǔ)言文本轉(zhuǎn)文本生成式模型，客戶(hù)可以引入自己的模型，或從Nemo涵蓋了GPT-8、GPT-43、GPT-530等數(shù)十億參數(shù)的預(yù)訓(xùn)練模型入手。從創(chuàng)建專(zhuān)有模型到運(yùn)營(yíng)，NVIDIA AI專(zhuān)家將全程與您合作。
“生成式模型，比如NVIDIA的43B基礎(chǔ)模型，通過(guò)基于數(shù)十億個(gè)句子和數(shù)萬(wàn)億個(gè)單詞進(jìn)行訓(xùn)練來(lái)學(xué)習(xí)，隨著模型的收斂，它開(kāi)始理解單詞與其基本概念之間的關(guān)系，這些關(guān)系通過(guò)模型嵌入空間中的權(quán)重進(jìn)行捕獲。Transformer模型使用一種名為自注意力的技術(shù)：一種旨在學(xué)習(xí)一系列單詞中的依賴(lài)性和關(guān)系的機(jī)制，其結(jié)果是得到一種模型，該模型可為類(lèi)似ChatGPT的體驗(yàn)奠定基礎(chǔ)。這些生成式模型需要大量數(shù)據(jù)，數(shù)據(jù)處理和分布式訓(xùn)練方面深厚的AI專(zhuān)業(yè)知識(shí)， 以及大規(guī)模計(jì)算，以跟上創(chuàng)新的步伐進(jìn)行訓(xùn)練、部署和維護(hù)?！?/p>
Picasso是一項(xiàng)視覺(jué)語(yǔ)言模型制作服務(wù)，面向希望使用許可內(nèi)容或?qū)Ｓ袃?nèi)容來(lái)訓(xùn)練自定義模型的客戶(hù)。我們很高興Getty Images將使用Picasso服務(wù)構(gòu)建Edify圖片和Edify視頻生成式模型，這些模型以其豐富的內(nèi)容庫(kù)為基礎(chǔ)進(jìn)行訓(xùn)練，其中包含大量以負(fù)責(zé)任授權(quán)的方式獲得許可的專(zhuān)業(yè)圖像和視頻素材，企業(yè)能夠使用簡(jiǎn)單的文本或圖像提示創(chuàng)建自定義的圖像和視頻。Shutterstock正在開(kāi)發(fā)一款以其專(zhuān)業(yè)的圖像、3D和視頻素材庫(kù)進(jìn)行訓(xùn)練的Edify-3D生成式模型。Shutterstock將幫助簡(jiǎn)化用于創(chuàng)意制作、數(shù)字孿生和虛擬協(xié)作的3D素材的創(chuàng)建過(guò)程，使企業(yè)能夠更快更輕松地實(shí)現(xiàn)這些工作。我宣布我們與Adobe之間的長(zhǎng)期合作將迎來(lái)重要擴(kuò)展，我們將共同構(gòu)建一系列新一代AI功能，打造創(chuàng)意領(lǐng)域的未來(lái)。將生成式AI融入營(yíng)銷(xiāo)人員和創(chuàng)意專(zhuān)業(yè)人士的日常工作流，新的生成式AI模型將針對(duì)圖像、視頻、3D和動(dòng)畫(huà)制作進(jìn)行優(yōu)化。為了保護(hù)藝術(shù)家的權(quán)利，Adobe正在開(kāi)發(fā)以商業(yè)可行性和正確內(nèi)容歸屬為重點(diǎn)的方案，該方案由Adobe的“內(nèi)容真實(shí)性倡議”提供支持。
我們的第三個(gè)語(yǔ)言領(lǐng)域是生物學(xué)，藥物研發(fā)是一個(gè)價(jià)值近2萬(wàn)億美元的行業(yè)，研發(fā)投入高達(dá)2500億美元。NVIDIA Clara是一款醫(yī)療健康應(yīng)用框架，用于影像、儀器、基因組學(xué)分析和藥物研發(fā)。目前，該行業(yè)正在轉(zhuǎn)向利用生成式AI來(lái)發(fā)現(xiàn)疾病靶因、設(shè)計(jì)新型分子或蛋白質(zhì)類(lèi)藥物，以及檢測(cè)藥物對(duì)機(jī)體的作用。數(shù)百家新型AI藥物研發(fā)初創(chuàng)公司相繼涌現(xiàn)，有些公司已經(jīng)發(fā)現(xiàn)了新型靶標(biāo)或候選藥物，并開(kāi)始了人體臨床試驗(yàn)。BioNeMo可幫助研究人員使用專(zhuān)有數(shù)據(jù)創(chuàng)建、微調(diào)和提供自定義模型。Amgen、AstraZeneca、Insilico Medicine等公司都是BioNeMO的早期體驗(yàn)用戶(hù)。
NVIDIA AI Foundations是一個(gè)云服務(wù)和代工廠(chǎng)，用于構(gòu)建自定義語(yǔ)言模型和生成式AI。自十年前AlexNet面市以來(lái)，深度學(xué)習(xí)就開(kāi)辟了巨大的新市場(chǎng)，包括自動(dòng)駕駛、機(jī)器人、智能音箱，并重塑了我們購(gòu)物、了解新聞和享受音樂(lè)的方式，這只是冰山一角。隨著生成式AI掀起新一波基于浪潮，AI正處于轉(zhuǎn)折點(diǎn)，使得推理工作負(fù)載呈階梯函數(shù)式增長(zhǎng)。
AI可以生成多種數(shù)據(jù)，設(shè)計(jì)一個(gè)云數(shù)據(jù)中心來(lái)處理生成式AI是一項(xiàng)巨大挑戰(zhàn)。一方面，理想情況下最好使用一種加速器，因?yàn)檫@可以使數(shù)據(jù)中心具有彈性，能夠應(yīng)對(duì)不可預(yù)測(cè)的流量峰值和低谷。另一方面，沒(méi)有一個(gè)加速器能以最優(yōu)的方式處理在算法、模型、數(shù)據(jù)類(lèi)型和數(shù)據(jù)大小方面的多樣性，NVIDIA的One Architecture平臺(tái)兼具加速功能和彈性。
今天我們宣布推出全新的推理平臺(tái)：四種配置—一個(gè)體系架構(gòu)—一個(gè)軟件棧，每種配置都針對(duì)某一類(lèi)工作負(fù)載進(jìn)行了優(yōu)化。針對(duì)AI視頻工作負(fù)載推出了L4，它針對(duì)以下方面進(jìn)行了優(yōu)化：視頻解碼和編碼、視頻內(nèi)容審核、視頻通話(huà)功能等。如今，大多數(shù)云端視頻都在CPU上處理，一臺(tái)8-GPU L4服務(wù)器將取代一百多臺(tái)用于處理AI視頻的雙插槽CPU服務(wù)器。Snap是NVIDIA AI 在計(jì)算機(jī)視覺(jué)和推薦系統(tǒng)領(lǐng)域領(lǐng)先的用戶(hù)，Snap將會(huì)把L4用于A(yíng)V1視頻處理生成式AI和增強(qiáng)現(xiàn)實(shí)。Snapchat用戶(hù)每天上傳數(shù)億個(gè)視頻，google今天宣布在其GCP上提供NVIDIA L4，NVIDIA和Google Cloud正在努力加速在L4上部署主要工作負(fù)載。
通過(guò)此次合作，Google GCP成為了首款NVIDIA AI云。針對(duì)Omniverse、圖形渲染等生成式AI，我們宣布推出L40，L40的性能是NVIDIA最受歡迎的云推理GPU T4的10倍。Runway是生成式AI領(lǐng)域的先驅(qū)，他們正在發(fā)明用于創(chuàng)作和編輯內(nèi)容的生成式AI模型。
ChatGPT等大型語(yǔ)言模型是一個(gè)新出現(xiàn)的重要的推理工作負(fù)載，GPT模型是內(nèi)存和計(jì)算密集型模型。此外，推理是一種高容量、外擴(kuò)型工作負(fù)載，需要標(biāo)準(zhǔn)的商業(yè)服務(wù)器，我們對(duì)其推出新的Hopper GPU——配備雙GPU NVLINK的PCIE H100.該款H100配備94GB HBM3顯存，H100可處理?yè)碛?750億參數(shù)的GPT-3，還可支持商業(yè)PCIE服務(wù)器輕松擴(kuò)展。目前在云上唯一可以實(shí)際處理ChatGPT的GPU是HGX A100，與適用于GPT-3處理的HGX A100相比，一臺(tái)搭載四對(duì)H100及雙GPU NVLINK的標(biāo)準(zhǔn)服務(wù)器的速度快10倍。H100可將大型語(yǔ)言模型的處理成本降低一個(gè)數(shù)量級(jí)。
Grace Hopper是我們新的超級(jí)芯片，通過(guò)900GB/s的告訴一致性芯片到芯片接口連接Grace CPU和Hopper GPU。它非常適合處理大型數(shù)據(jù)集，如今利用大容量?jī)?nèi)存，CPU會(huì)存儲(chǔ)和查詢(xún)巨型嵌入表，然后將結(jié)果傳輸?shù)紾PU進(jìn)行推理。
全球最大的工業(yè)產(chǎn)業(yè)都生產(chǎn)實(shí)體產(chǎn)品，但他們也希望實(shí)現(xiàn)數(shù)字化生產(chǎn)方式。Omniverse是一個(gè)工業(yè)數(shù)字化平臺(tái)，旨在搭建數(shù)字化和物理實(shí)體之間的橋梁。Omniverse其中一個(gè)用途是以虛擬方式構(gòu)建工廠(chǎng)，在真正的實(shí)體工廠(chǎng)建成之前以數(shù)字方式整合所有設(shè)備，虛擬工廠(chǎng)整合可為全球工廠(chǎng)節(jié)省數(shù)十億美元。Omniverse具備獨(dú)特的技術(shù)，Omniverse是USD的首要開(kāi)發(fā)平臺(tái)，它是一種通用語(yǔ)言，幫助團(tuán)隊(duì)協(xié)作創(chuàng)建虛擬世界和數(shù)字孿生。已經(jīng)有近30萬(wàn)名創(chuàng)作者和設(shè)計(jì)師下載了Omniverse，Omniverse不是一種工具，而是一個(gè)USD網(wǎng)絡(luò)和共享數(shù)據(jù)庫(kù)，也是一種與各行各業(yè)使用的設(shè)計(jì)工具相連接的基礎(chǔ)結(jié)構(gòu)。
今天我們要宣布推出三款專(zhuān)為運(yùn)行Omniverse而設(shè)計(jì)的系統(tǒng)。首先我們將推出由NVIDIA Ada RTX GPU和英特爾最新款CPU提供動(dòng)力支持的新一代工作站，這款新工作站適用于光線(xiàn)追蹤、物理仿真、神經(jīng)圖形和生成式AI，從3月開(kāi)始Boxx、戴爾、惠普和聯(lián)想將提供這款工作站。其次，針對(duì)Omniverse優(yōu)化的新型NVIDIA OVX服務(wù)器，OVX由服務(wù)器GPU Ada RTX L40和我們的新款BlueField-3組成，OVX服務(wù)器將由戴爾、HPE、Quanta、技嘉、聯(lián)想和Supermicro提供，每一層Omniverse的堆棧包括芯片、系統(tǒng)、網(wǎng)絡(luò)和軟件在內(nèi)都是新發(fā)明。構(gòu)建和操作Omniverse計(jì)算機(jī)需要成熟的IT團(tuán)隊(duì)，我們將提供快速輕松地拓展和使用Omniverse的服務(wù)。
我們正在與Microsoft合作，將Omniverse Cloud引入全球各個(gè)行業(yè)，我們將在A(yíng)zure中托管它，并通過(guò)Microsoft豐富的存儲(chǔ)、安全性、應(yīng)用和服務(wù)組合收益。我們正在將Omniverse Cloud連接到Microsoft365生產(chǎn)力套件，包括Teams、Onedrive和Azure IoT Digital Twins等。Microsoft和NVIDIA正在將Omniverse帶來(lái)數(shù)以?xún)|計(jì)的Microsoft365和Azure用戶(hù)，加速計(jì)算和AI技術(shù)已經(jīng)走進(jìn)現(xiàn)實(shí)。
凈零排放是艱巨的挑戰(zhàn)，每家公司都必須加速所有工作負(fù)載以減少功耗，加速計(jì)算是全棧的數(shù)據(jù)中心級(jí)計(jì)算挑戰(zhàn)。Grace、Grace-Hopper和BlueField-3是適用于超級(jí)節(jié)能加速數(shù)據(jù)中心的新芯片，加速庫(kù)可解決新挑戰(zhàn)，開(kāi)辟新市場(chǎng)。我們更新了100個(gè)加速庫(kù)，包括用于量子計(jì)算的cuQuantum、用戶(hù)組合優(yōu)化的cuOpt以及用戶(hù)光刻計(jì)算的cuLitho，很高興能與臺(tái)積電、ASML和Synopsys合作達(dá)到2nm及更高精度制程。NVIDIA DGX AI超級(jí)計(jì)算機(jī)是生成式大型語(yǔ)言模型取得突破的引擎，DGX H100 AI超級(jí)計(jì)算機(jī)正在生產(chǎn)并即將通過(guò)。全球不斷擴(kuò)大的OEM和云服務(wù)合作伙伴網(wǎng)絡(luò)面世，DGX超級(jí)計(jì)算機(jī)沒(méi)有止步于研究，正在成為現(xiàn)代化的AI工廠(chǎng)，每家公司都將會(huì)制造智能。我們通過(guò)與Microsoft Azure、Google GCP和Oracle OCI合作，借此拓展NVIDIA DGX Cloud的業(yè)務(wù)模式，通過(guò)一個(gè)瀏覽器就可以將其接入每家公司。
DGX Cloud為客戶(hù)提供在NVIDIA和全球范圍內(nèi)都出類(lèi)拔萃的CSP，我們正處于A(yíng)I的“iPhone時(shí)刻”，生成式AI推理工作負(fù)載已進(jìn)入超速運(yùn)行狀態(tài)，我們推出了新的推理平臺(tái)：四種配置—一個(gè)體系架構(gòu)，適用于A(yíng)I視頻的L4，適用于Omniverse和圖形渲染的L40，適用于擴(kuò)展LLM推理的H100 PCIE，適用于推薦系統(tǒng)和向量數(shù)據(jù)庫(kù)的Grace-Hopper。NVIDIA推理平臺(tái)可最大化提高數(shù)據(jù)中心加速和彈性， NVIDIA和Google Cloud正在合作部署廣泛的推理工作負(fù)載，通過(guò)此次合作，Google GCP成為了首款NVIDIA AI云。我們正與Adobe合作，為創(chuàng)造性的未來(lái)構(gòu)建一系列新一代AI功能，Omniverse是實(shí)現(xiàn)工業(yè)數(shù)字化的數(shù)字到物理操作系統(tǒng)，可以統(tǒng)一端到端工作流，并將價(jià)值3萬(wàn)億美元，擁有1400萬(wàn)員工的汽車(chē)行業(yè)數(shù)字化。Omniverse正在躍上云端，我們?cè)贏(yíng)zure上進(jìn)行托管，與Microsoft合作，將Omniverse Cloud引入全球各個(gè)行業(yè)。
合規(guī)聲明：本文節(jié)選自英偉達(dá)年度技術(shù)峰會(huì)紀(jì)要，如需紀(jì)要全文請(qǐng)后臺(tái)留言。
- end -
聯(lián)系客服
