传字节已向英伟达下10亿美元大单!AI服务器需求“爆表”

发表时间: 2023-12-22 17:39:56 作者: 江南体育网站亚洲

  近来据凤凰网音讯,本年春节后,具有云核算事务的我国各互联网大公司都向英伟达下了大单,其间字节本年向英伟达订货了超越10亿美元的GPU,另一家大公司的订单也至少超越10亿元人民币。

  据一位挨近英伟达的人士称,字节跳动现在现已到货和没到货的A100与H800加速卡总计有10万块。其间H800本年3月才开端投产。据估计,仅字节跳动一个企业本年的订单或许已挨近英伟达去年在我国出售的商用GPU总和。

  一名字节的人悄悄表明,字节在2020年6月GPT-3发布后曾凭借V100核算卡练习过一个数十亿参数的生成式言语大模型,但由于参数规划有限,这个模型生成才能平平,字节其时看不到它的商业化或许性故不了了之。

  另一位阿里云的人说阿里也曾在2018-2019年活跃收购GPU,其时收购量至少到达上万块规划,包含V100和T4核算卡,其间约十分之一送到了达摩院用作AI研制技能,这也用在了2021年发布的万亿参数大模型M6中。

  音讯人士说到,字节、阿里等大企业主要是和英伟达直接谈收购,由于代理商和二手市场难以满意其巨大需求,而英伟达会按目录价,依据收购规划给出必定的扣头。

  现在NVIDIA在售的加速卡至少有9款类型,其间用于AI言语大模型练习的4款高性能类型分别是V100、A800、A100及H100。

  其间推出较早的V100加速卡至少10000美元,人民币约合6.9万元,对我国市场“”的A800价格12000美元,人民币8.3万元,A100价格在1.5万美元,人民币至少10.35万元,现任“旗舰”H100加速卡官方价格3.65万美元,人民币超越25.2万元。

  近来,全球服务器电源和代工大厂台达董事长表明,各大厂进入AI军备竞赛,初期急单许多,“Google、Meta和我国大陆的厂商都很急,下半年订单一向进来”,一起估计这波需求会在本年第4季到下一年发酵。

  另一家AI服务器代工大厂英业达估计,内建4或8颗GPU的AI伺服器产品下一年起出货量至少有两位数增加。

  鸿海集团内担任AI服务器事务的鸿佰科技规划新增五到六条生产线,以应对AI服务器客户真实的需求,除既有客户微软与亚马逊之外,Meta、苹果等大客户也将参加本年出货队伍。

  *博客内容为网友个人发布,仅代表博主个人自己的观念,如有侵权请联络工作人员删去。