新闻中心

EEPW首页>编辑观点> GPT-4对算力硬件的新需求:GPU订单增加

GPT-4对算力硬件的新需求:GPU订单增加

—— GPT-4对算力硬件的新需求:台积电为英伟达代工的GPU订单增加
作者:陈玲丽编译 时间:2023-03-23 来源:电子产品世界 收藏

作为AI大模型基础设施,未来将持续受益于AI技术的迭代和商业化应用。GPT4.0从语言模型走向多模态模型,将带来更为丰富的应用场景。

本文引用地址://m.amcfsurvey.com/article/202303/444818.htm

同时,更大的模型对提出更高需求,多模态特性又增加了对其他编解码模块的需求。

1679553353153889.png

多模态应当具备三个基本组成部分:第一部分是图像,视频为多帧的图像;第二部分为音频;第三部分为文字。

因此,随着多模态的发展,在层面,需要面向视频、音频再增加编解码能力的支持。从难度上讲,视频对于算力和IP复杂度的要求最高,其次为音频,是从算力扩展到周边支持性的编解码IP如VPU模块的机会。

据媒体报道,在晶圆领域走在行业前列的,来自的A100和H100订单在增加,为国内市场设计的A800系列GPU的订单也在增加。

值得注意的是,A100、H100及A800系列GPU,都是针对数据中心的产品,这三款GPU的代工订单增加,大概率与ChatGPT等近期大热的产品有关。

1679553429595501.png

在上月中旬的报道中,外媒就曾提到由于对ChatGPT等进行训练和提供相关的服务,全球可能再次面临GPU短缺的挑战,出现短缺的时间可能还会早于预期。

为了创建和维持ChatGPT所需的人工智能分析数据的庞大数据库,开发商OpenAI使用了10000个的GPU进行相关的训练。而为了支持实际应用,满足服务器的需求,OpenAI已使用了约2.5万个英伟达的GPU,随着需求的增加未来预计还会增加。

来自英伟达的代工订单增加,可能还不是近期开始的。有外媒在上月底的报道中就提到,得益于交货时间短的AI芯片和服务器处理器订单的强劲推动,5nm及4nm制程工艺的产能利用率已在回升。虽然当时并未明确提到英伟达的订单,但AI芯片和服务器处理器订单,大概率也有英伟达的产品。



评论


相关推荐

技术专区

关闭