橘子百科-橘子都知道橘子百科-橘子都知道

我国的全民国家教育日是哪一天 我国法定全民国教育日

我国的全民国家教育日是哪一天 我国法定全民国教育日 新订单12月才能交付!英伟达GPU持续缺货涨价 客户“勒紧裤带”节约使用

  在(zài)持续(xù)已(yǐ)久(jiǔ)的(de)“AI热(rè)潮”中,各家争相(xiāng)推出的大模(mó)型、AI应用,都进一步(bù)推升了(le)对算(suàn)力狂(kuáng)热的需求。本周已有(yǒu)报道指出(chū)英伟(wěi)达(dá)后续对(duì)AI顶级规格芯(xīn)片需求明显看(kàn)增,紧急向台(tái)积电(diàn)追(zhuī)加预订先进封装产能。

  需求飙涨下,英伟(wěi)达(dá)GPU价(jià)格自然也(yě)是水涨船高(gāo)。据集微网消(xiāo)息(xī),有代(dài)理(lǐ)商透(tòu)露,英伟达A100价格从去年12月开始上(shàng)涨(zhǎng),截至今年(nián)4月上半月,其5个月价格(gé)累计涨幅达到37.5%;同期A800价(jià)格累计涨(zhǎng)幅达20.0%。

  同时,英(yīng)伟达GPU交货周期也被拉(lā)长,之(zhī)前拿货周(zhōu)期大约为一个月(yuè),现在基(jī)本都需要三个月或更(gèng)长。甚(shèn)至,部分新订(dìng)单“可能(néng)要到12月才能(néng)交(jiāo)付”。

  供需的巨大(dà)鸿沟面前,在这一情形之下,众(zhòng)多客(kè)户也(yě)不得不“勒紧腰带(dài)”。上述文章指出,国(guó)内可用于训(xùn)练AI大模型的A100大约有4万-5万个,供应相当吃紧,一些云服务厂商已严(yán)格限制内(nèi)部(bù)使用这些先进芯片,以将(jiāng)其保(bǎo)留至需要强力运算的任务(wù)。

  值(zhí)得一(yī)提(tí)的是(shì),类似的事(shì)情在(zài)微软(ruǎn)内(nèi)部也早已发生。3月已有外媒报道指出(chū),微软内(nèi)部陷入AI服务器(qì)硬件短缺的窘境,不得不对AI硬件资源采取“配额供给”机制,限制公司(sī)内(nèi)部(bù)其他(tā)AI工(gōng)具(jù)开发团队的资源用(yòng)量。

  拉长(zhǎng)时间线来看,有GPU业内(nèi)人士指出,实际(jì)上从去年(nián)6月(yuè)起,英伟达就已宣布上调A100价格,涨(zhǎng)幅(fú)20%左右,渠(qú)道(dào)商(shāng)在加紧囤货。至(zhì)于英伟达A800,在(zài)ChatGPT火(huǒ)爆之(zhī)前就已出(chū)现(xiàn)涨价,但反映(yìng)到市场则有(yǒu)一定的滞(zhì)后性,赶上ChatGPT爆火这一(yī)时间点,我国的全民国家教育日是哪一天 我国法定全民国教育日更放(fàng)大了这(zhè)一现(xiàn)象。

  “英伟达GPU涨价与ChatGPT有一定的关(guān)联性(xìng),且交货周期也受到了(le)连带(dài)我国的全民国家教育日是哪一天 我国法定全民国教育日的影(yǐng)响(x我国的全民国家教育日是哪一天 我国法定全民国教育日iǎng),导致市场上出(chū)现(xiàn)了众(zhòng)多炒卡的行为(wèi)。”

  此外,在海外电商平台上,英伟(wěi)达新(xīn)旗舰级GPU H100的价格(gé)在4月中旬(xún)就(jiù)已(yǐ)炒到了(le)超过4万美元。

  随着(zhe)如今各家科技巨头争相推出自家大模型,GPU需求量仍在持续攀升。OpenAI指出(chū),AI大模型(xíng)要持续取得突(tū)破(pò),所需(xū)要消耗的计算(suàn)资(zī)源每3~4个月就要(yào)翻一倍,资金也需要通(tōng)过指(zhǐ)数级增长(zhǎng)获得匹配。

  据(jù)财通证券测(cè)算,2023/2024/2025年(nián)大(dà)模型有(yǒu)望为GPU市场贡献69.88/166.2/209.95亿美元增量。

  其中在训(xùn)练端(duān),以目前主(zhǔ)流的训(xùn)练端GPU英伟达(dá)A100测算,假设(shè)ASP为(wèi)1万美元,2023/2024/2025年全球(qiú)训练端GPU需求(qiú)市(shì)场规(guī)模(mó)预计分别为0.74/2.00/4.07亿美元;

  在推理端,以目前英伟达(dá)用(yòng)于推理(lǐ)端计算的A10测算,假设ASP为2800美(měi)元,2023/2024/2025年全球(qiú)推理(lǐ)端GPU需求(qiú)市场规模预计分别为69.14/164.2/205.88亿美元(yuán)。

  业内人士(shì)也表示,AI大模(mó)型训(xùn)练成本(běn)之一是基(jī)础算力(lì),大概(gài)需要(yào)384-3000块左右的A100才能基本满足要求,如果价格持续上涨,无论(lùn)是(shì)互(hù)联网(wǎng)、AI大厂、还是创业(yè)新(xīn)贵,要(yào)追加的投入(rù)都可能远超当初。

未经允许不得转载:橘子百科-橘子都知道 我国的全民国家教育日是哪一天 我国法定全民国教育日

评论

5+2=