九游體育(中國(guó)大陸)-官方網(wǎng)站

&

91精品H无遮挡在线看中文_高潮抽搐痉挛捣出白浆h在线观看_亚洲春色福利在线观看_五月婷婷色播图片专区在线观看日韩

生成式AI推理計(jì)算需求將達(dá)到多大規(guī)模?瑞銀分析
時(shí)間:2025-08-03瀏覽次數(shù):
 據(jù)該銀行表示,AI仍然對(duì)宏觀經(jīng)濟(jì)不確定性保持韌性,美國(guó)主要科技公司重申了資本支出(capex)計(jì)劃,并強(qiáng)調(diào)計(jì)算需求繼續(xù)超過(guò)供應(yīng)。  瑞銀認(rèn)為,推理——即運(yùn)行AI模型生成答案的過(guò)程——將成為未來(lái)AI計(jì)算需求的主要驅(qū)動(dòng)力,超過(guò)訓(xùn)練?! 【庞误w育ninegame 九游體育官方平臺(tái)  由于智能代理AI和推理能力的發(fā)展,我們需要的計(jì)算量輕松比去年同期預(yù)計(jì)的多出100倍,Nvidia(NASDAQ:NVD

  據(jù)該銀行表示,AI仍然對(duì)宏觀經(jīng)濟(jì)不確定性保持韌性,美國(guó)主要科技公司重申了資本支出(capex)計(jì)劃,并強(qiáng)調(diào)計(jì)算需求繼續(xù)超過(guò)供應(yīng)。

  瑞銀認(rèn)為,推理——即運(yùn)行AI模型生成答案的過(guò)程——將成為未來(lái)AI計(jì)算需求的主要驅(qū)動(dòng)力,超過(guò)訓(xùn)練。

  九游體育ninegame 九游體育官方平臺(tái)

  由于智能代理AI和推理能力的發(fā)展,我們需要的計(jì)算量輕松比去年同期預(yù)計(jì)的多出100倍,Nvidia(NASDAQ:NVDA)首席執(zhí)行官黃仁勛在瑞銀的一份報(bào)告中表示。

  該銀行呼應(yīng)了這一觀點(diǎn),指出思維鏈(Chain of Thought,CoT)推理等更復(fù)雜方法的出現(xiàn)是計(jì)算強(qiáng)度增長(zhǎng)的關(guān)鍵來(lái)源。

  在其預(yù)測(cè)中,瑞銀列出了四類(lèi)生成式AI用例:聊天機(jī)器人、企業(yè)AI、智能代理AI和物理AI。

  像ChatGPT這樣的聊天機(jī)器人的計(jì)算需求預(yù)計(jì)將從2024年的10 exaFLOP/s增長(zhǎng)到2030年的200 exaFLOP/s。

  對(duì)于欺詐檢測(cè)和合同摘要等企業(yè)應(yīng)用,推理需求預(yù)計(jì)將增長(zhǎng)得更快——在同一時(shí)期從15增長(zhǎng)到440 exaFLOP/s。

  最顯著的增長(zhǎng)預(yù)計(jì)來(lái)自智能代理AI,包括自主客戶(hù)支持和工作流自動(dòng)化。瑞銀估計(jì),到2030年,這一領(lǐng)域的需求可能攀升至14 zettaFLOP/s,這將是與今天的需求相比的巨大飛躍,我們估計(jì)目前的需求在數(shù)百exaFLOP/s范圍內(nèi),該公司在報(bào)告中表示。

  物理AI,包括機(jī)器人和自動(dòng)駕駛汽車(chē),隨著其發(fā)展到復(fù)制人類(lèi)認(rèn)知的某些方面,最終可能需要yottaFLOP/s范圍的計(jì)算能力。

  目前安裝的GPU計(jì)算能力估計(jì)約為4,000 exaFLOP/s(加上Google(NASDAQ:GOOGL)的張量處理單元(TPUs)后達(dá)到5,000),但瑞銀指出,其中大部分仍未被充分利用。

  GPU內(nèi)存瓶頸等限制意味著實(shí)際使用率通常低于名義潛力,這使得當(dāng)前基礎(chǔ)設(shè)施不太可能滿(mǎn)足未來(lái)需求,尤其是智能代理和物理AI的需求。

  推理通常受到GPU內(nèi)存的限制,這意味著芯片能夠提供的實(shí)際FLOP/s遠(yuǎn)低于其理論最大值——內(nèi)存限制導(dǎo)致芯片運(yùn)行時(shí)僅達(dá)到其名義FLOP/s的25%左右,報(bào)告解釋道。

  即使有這些限制,可用容量可能足以滿(mǎn)足當(dāng)前聊天機(jī)器人的需求,但遠(yuǎn)低于智能代理和物理AI所需的水平,后者將需要不同數(shù)量級(jí)的計(jì)算能力,報(bào)告補(bǔ)充道。

  總的來(lái)說(shuō),瑞銀得出結(jié)論,推理在AI采用中的擴(kuò)大作用,加上不斷增長(zhǎng)的硬件需求,支持繼續(xù)投資AI基礎(chǔ)設(shè)施。

  對(duì)于投資者,該銀行認(rèn)為與我們的’AI’和’電力與資源’選擇相關(guān)的股票出現(xiàn)任何回調(diào)都是具有吸引力的入場(chǎng)點(diǎn)。

Copyright ? 2024 九游體育信息安全科技有限公司 版權(quán)所有  備案號(hào):冀ICP備19020985號(hào)  
地址:河北省滄州市運(yùn)河區(qū)浮陽(yáng)大道陽(yáng)光國(guó)際住宅小區(qū)7#樓4-1602號(hào)  郵箱:283258569@qq.com  電話(huà):400-323-5969