手机版

百科生活 投稿

老黄狂拼CPU!英伟达发800亿晶体管显卡,英伟达核芯显卡(CPU超级芯片:数据中心专属)

百科 2026-07-07 16:14:28 投稿 阅读:8496次

关于【老黄狂拼CPU!英伟达发800亿晶体管显卡】:老黄狂拼CPU!英伟达发800亿晶体管显卡,以及世界最快AI超算Eos,今天小编给您分享一下,如果对您有所帮助别忘了关注本站哦。

  • 内容导航:
  • 1、老黄狂拼CPU!英伟达发800亿晶体管显卡,以及世界最快AI超算Eos
  • 2、英伟达发144核Grace CPU超级芯片:数据中心专属

1、老黄狂拼CPU!英伟达发800亿晶体管显卡,以及世界最快AI超算Eos

组装”CPU,4nm显卡,世界上最快的AI超级计算机,游戏开发者的元宇宙。这次老黄的百宝箱里有什么?

今天,老黄又穿上了他的皮衣!

3月22日晚,英伟达GTC 2022开幕。

虽然没有熟悉的厨房,但这场战斗更加豪华。

Nvidia用Omniverse从里到外渲染新总部!

拥有80亿个晶体管的Hopper H100

借助瑞星平台,英伟达推出了专为超级计算机设计的最新AI显卡Hopper H100。

与“只有”540亿个晶体管的前辈A100相比,Nvidia在H100中安装了800亿个晶体管,并采用了定制的TSMC 4纳米工艺。

也就是说H100会有更好的动力/性能特性,密度也会有一定程度的提升。

在计算能力上,H100的FP16、TF32和FP64的性能是A100的3倍,分别是2000 TFLOPS、1000 TFLOPS和60 TFLOPS。

此外,H100还增加了对FP8的支持,运算能力达到4000 TFLOPS,比A100快6倍。毕竟后者由于缺乏原生FP8支持,不得不依赖FP16。

内存方面,H100也会默认支持3TB/s带宽的HBM3,比A100的HBM2E高1.5倍。

H100支持的第四代NVLink接口可提供高达128GB/s的带宽,是A100的1.5倍;而PCIe 5.0的速度可以达到128GB/s,是PCIe 4.0的两倍。

同时,SXM版H100将TDP提高到700W,而A100为400W。而75%的功率提升,一般来说可以预期获得2到3倍的性能。

为了优化性能,Nvidia还推出了新的Transformer引擎,它会根据工作负载自动在FP8和FP16格式之间切换。

Hopper架构的新DPX指令将动态编程的计算速度提高了40倍。

在AI训练中,H100可以提供高达9倍的吞吐量。基于威震天530B,可以提供16到30倍的推理性能。在3D FFT(快速傅立叶变换)和基因组测序等HPC应用中,可以提高6-7倍。

DGX服务器系统

第四代英伟达DGX服务器系统将是全球首款内置H100显卡的AI服务器平台。

DGH100服务器系统可以提供满足大规模语言模型、推荐系统、医疗保健研究和气候科学的海量计算需求所需的规模。

其中,每个服务器系统包含8块H100显卡,通过NVLink链接成一个单一的整体,共有6400亿个晶体管。

在FP8精度下,DGX H100可以提供32 PFLOPS,比上一代提高了6倍。

此外,每个DGX H100系统还包括两个NVIDIA BlueField-3 DPU,用于卸载、加速和隔离网络、存储和安全服务。

八个NVIDIA ConnectX-7 Quantum-2 InfiniBand网络适配器提供每秒400 Gb的吞吐量来连接计算和存储模块,速度是上一代系统的两倍。

第四代NVLink结合NVSwitch,可以在每个DGX H100系统中的每个GPU之间提供每秒900 GB的连接,是上一代的1.5倍。

最新的DGX SuperPOD架构可以连接多达32个节点,总共256个H100显卡。

DGX SuperPOD可以提供1 EFLOPS的FP8性能,也是上一代的6倍。

世界上最快的人工智能超级计算机

由576个DGX H100服务器系统和4608个DGX H100显卡组成的“Eos”超级计算机,预计将提供18.4 EFLOPS的AI计算性能,比目前世界上最快的超级计算机日本“福悦”快4倍。

对于传统的科学计算,Eos预计将提供275 PFLOPS的性能。

变压器发动机

作为新Hopper架构的一部分,它将显著提升AI的性能,大型模型的训练可以在数天甚至数小时内完成。

传统神经网络模型在训练过程中的精度是固定的,因此很难将FP8应用于整个模型。

Transformer Engine可以在FP16和FP8之间逐层训练,使用Nvidia提供的启发式方法选择要求的最低精度。

此外,Transformer Engine能够以两倍于FP16的速度对FP8数据进行封装和处理,因此模型各层中能够被FP8处理的数据可以被加速两倍。

格雷斯CPU超级芯片

除了显卡,NVIDIA今天还推出了首款基于Arm Neoverse架构的处理器——Grace CPU super chip。

它基于之前发布的格蕾丝·赫柏CPU+GPU设计,但显卡被CPU取代。

据英伟达实验室估计,使用同类编译器,Grace CPU超级芯片的性能可以提升1.5倍以上。

就技术规格而言,可以概括如下:

两个72核芯片,多达144个Arm v9 CPU内核

采用ECC技术的新一代LPDDR5x内存总带宽为1tb/s。

SPEC2017 _ INT _ BASE分数预计超过740

900GB/s一致接口,比PCIe 5.0快7倍

封装密度是DIMM解决方案的2倍。

性能功耗比是当今领先CPU的两倍。

超级芯片中的两个CPU通过NVLink最新的芯片到芯片(C2C)接口进行通信。

这种“芯片到芯片”和“芯片到芯片”的互连支持低延迟内存一致性,允许连接的设备同时在同一个内存池中工作。

Grace CPU Superchip具有更先进的能效和内存带宽,其创新的内存子系统由带ECC的LPDDR5x内存组成。

Lpr5x可以提供两倍于传统DDR5的带宽,同时大幅降低CPU加内存的功耗至500瓦。

相比之下,AMD的芯片的基准测试结果从382到424,每个芯片的功耗最高可达280W(不包括内存)。

此外,Grace CPU超级芯片与NVIDIA ConnectX-7 NIC一起提供了服务器配置的灵活性,可以用作独立的纯CPU系统,也可以用作带有1、2、4或8个基于Hopper的显卡的加速服务器。

安培架构增加新产品。

如今,Nvidia为笔记本电脑和台式机提供了七款基于Ampere架构的显卡——RTX A500、RTX A1000、RTX A2000 8GB、RTX A3000 12GB、RTX A4500和RTX A5500。

新的RTX A5500桌面显卡可以实现出色的渲染、人工智能、图形和计算性能。其光线追踪渲染速度是上一代的两倍,运动模糊渲染性能最高可提升9倍。

第二代RT核:吞吐量是第一代的两倍,可以同时运行光线追踪、着色和去噪任务。

第三代张量核:训练吞吐量是上一代的12倍,支持新的TF32和Bfloat16数据格式。

CUDA核心。高达上一代产品单精度浮点吞吐量的3倍。

高达48GB的GPU内存:RTX A5500拥有24GB带ECC(纠错码)的GDDR6内存。RTX A5500的内存可以通过NVLink连接两个GPU扩展到48GB。

虚拟化:RTX A5500支持英伟达RTX虚拟工作站(vWS)软件,该软件用于多个高性能虚拟工作站实例,使远程用户能够共享资源并驱动高端设计、人工智能和计算工作负载。

PCIe 4.0:带宽是上一代的两倍,加快了AI、数据科学和创建3D模型等数据密集型任务的数据传输速度。

游戏开发者也有元宇宙。

已经在元宇宙中占有一席之地的Omniverse再次得到加强。

在本次大会上,Nvidia发布了NVIDIA Omniverse的新功能,使开发者可以更容易地在新的游戏开发过程中共享资产、对资产库进行分类、进行协作以及部署AI来制作角色面部表情的动画。

在英伟达Omniverse实时设计协作和仿真平台的帮助下,游戏开发者可以通过使用支持AI和英伟达RTX的工具来简化、加速和改进他们的开发工作流程,从而轻松构建定制工具。其组成部分包括:

NVIDIA AI驱动的应用Omniverse Audio2Face可以让角色艺术家通过音频文件生成高质量的面部动画。2 Audio2Face支持完整的面部动画,艺术家也可以控制表演的情绪。通过Audio2Face,游戏开发者可以快速轻松地为自己的游戏角色添加逼真的表情,促进玩家和游戏角色之间更强的情感联系,增强沉浸感。

Omniverse Nucleus Cloud现已开放抢先体验版,可实现Omniverse场景的一键简单分享,无需在本地或私有云部署Nucleus。借助Nucleus Cloud,游戏开发人员可以轻松地在内部和外部开发团队之间实时共享和协作3D资产。

Omniverse DeepSearch是一项人工智能服务,现已提供给Omniverse企业用户。它允许游戏开发者使用自然语言输入和图像来即时搜索他们的整个未标记的3D资产、对象对象和角色目录。

Omniverse Connectors是一个插件,实现了第三方设计工具和Omniverse之间的“实时同步”协作工作流。虚幻引擎中新的5 Omniverse连接器允许游戏美工在游戏引擎和Omniverse之间交换USD和材质定义语言数据。

将数据中心变成“人工智能工厂”

无论是Hopper图形架构还是AI加速软件,还是强大的数据中心系统。

所有这些都将被Omniverse收集起来,以便更好地模拟和理解现实世界,并作为一种新型机器人的试验场,即所谓的“下一波AI”。

由于加速计算技术的发展,AI取得了惊人的进步,人工智能从根本上改变了软件能做什么和如何开发。

老黄说,Transformer摆脱了对人类标记数据的需要,让自我监督学习成为可能,而人工智能则跳到了空之前的速度。

语言理解的Google BERT、药物发现的NVIDIA MegaMolBART、DeepMind AlphaFold2都是《变形金刚》带来的突破。

英伟达的AI平台也被大幅更新,包括Triton推理服务器、用于训练大型语言模型的NeMo威震天0.9框架、用于音视频质量增强的Maxine框架。

“我们将努力在未来十年把我们的计算能力提高一百万倍,”老黄在演讲结束时说。“我迫不及待地想知道下一个一百万次会带来什么。」

参考资料:

https://www.nvidia.cn/gtc-global/keynote/

2、英伟达发144核Grace CPU超级芯片:数据中心专属

澎湃新闻记者 邵文

“一种新型的数据中心已经出现,它就是能对海量数据进行处理和提炼以实现智能的AI 工厂。”NVIDIA创始人兼首席执行官黄仁勋表示。

3月22日,在2022 GTC大会上,NVIDIA宣布推出首款面向AI基础设施和高性能计算的基于Arm Neoverse架构的数据中心专属CPU——Grace CPU超级芯片。据介绍,其有144个Arm内核和1TB/s的内存带宽,将服务器芯片性能和能效提升一倍。

老黄狂拼CPU!英伟达发800亿晶体管显卡,英伟达核芯显卡(CPU超级芯片:数据中心专属)

“Grace CPU超级芯片能够在一个芯片中提供最高的性能、内存带宽以及NVIDIA 软件平台,将作为‘全球AI基础设施的CPU’大放异彩。”黄仁勋表示。

Grace CPU超级芯片由两个CPU芯片组成,它们之间通过NVLink-C2C(一种新型的高速、低延迟、芯片到芯片的互连技术)互连在一起。Grace CPU依托带有纠错码的LPDDR5x内存组成的创新的内存子系统,其可提供两倍于传统DDR5设计的带宽,达到每秒1TB ,同时大幅降低功耗,CPU加内存整体功耗仅500瓦。

Grace CPU超级芯片是去年NVIDIA发布的首款由CPU-GPU集成的“Grace Hopper超级芯片”的模块,它将与基于 NVIDIA Hopper架构的GPU一同应用于大型HPC(高性能计算机群,High Performance Computing)和AI应用。Grace CPU可以运行所有的 NVIDIA计算软件栈,包括 NVIDIA RTX、NVIDIA HPC、NVIDIA AI和Omniverse。

Grace CPU有可在单个插座(socket)中容纳144个Arm 核心和1TB/s 内存带宽,在 SPECrate2017_int_base基准测试中的模拟性能达到740分。根据 NVIDIA 实验室使用同类编译器估算,这一结果较当前最先进的DGX A100搭载的双CPU相比高1.5倍以上。

Grace CPU以美国海军少将、“计算机软件工程第一夫人”Grace Hopper的名字命名。Grace Hopper是计算机科学的先驱之一,发明了世界上第一个编译器——A-0 系统。1945年,Grace Hopper在 Mark Ⅱ中发现了一只导致机器故障的飞蛾,从此“bug” 和 “debug” (除虫) 便成为计算机领域的专用词汇。

据NVIDIA 透露,Grace CPU超级芯片和Grace Hopper超级芯片预计将于2023年上半年开始供货。

责任编辑:李跃群

校对:刘威

本文关键词:英伟达显卡生产,英伟达生产显卡芯片吗,英伟达核芯显卡,英伟达芯片显卡,英伟达显卡核心。这就是关于《老黄狂拼CPU!英伟达发800亿晶体管显卡,英伟达核芯显卡(CPU超级芯片:数据中心专属)》的所有内容,希望对您能有所帮助!

本文链接:https://bk.89qw.com/a-351062/

最近发表
网站分类