.:. 草榴社區 » 技術討論區 » [图说]        越来越离谱了你们    (09.01)
本頁主題: [图说]        越来越离谱了你们    (09.01)字體大小 寬屏顯示 只看樓主 最新點評 熱門評論 時間順序
dingdang13


級別:精靈王 ( 12 )
發帖:10824
威望:1333 點
金錢:268654 USD
貢獻:1474 點
註冊:2015-03-28

你们
自愿疫苗
自愿核酸
自愿不出门
自愿隔离
自愿去死
都是你们自愿的
政府三令五申禁止层层加码

——————————————————————————

A100 和 H100 有多强悍?


相比于英伟达前一代的 Volta GPU,A100 的性能提升了 20 倍,非常适合于人工智能、数据分析、科学计算和云图形工作负载。该芯片由 540 亿个晶体管组成,打包了第三代 Tensor 核心,并具有针对稀疏矩阵运算的加速功能,对于 AI 推理和训练来说特别有用。此外,每个 GPU 可以划分为多个实例,执行不同的推理任务,采用 Nvidia NVLink 互连技术可以将多个 A100 GPU 用于更大的 AI 推理工作负载。

然而,这些在 H100 出现之后显得略有不足了。在今年春季的发布会中,黄仁勋发布了面向高性能计算(HPC)和数据中心的下一代 Hopper 架构,搭载新一代芯片的首款加速卡被命名为 H100,它就是 A100 的替代者。

H100 是一款针对大模型专门优化过的芯片,使用台积电 5nm 定制版本制程(4N)打造,单块芯片包含 800 亿晶体管。同时也是全球首款 PCI-E 5 和 HBM 3 显卡,一块 H100 的 IO 带宽就是 40 terabyte 每秒。

Transformer 类预训练模型是当前 AI 领域最热门的方向,英伟达以此为目标专门优化 H100 的设计,提出了 Transformer Engine,集合了新的 Tensor Core、FP8 和 FP16 精度计算,以及 Transformer 神经网络动态处理能力,可以将此类机器学习模型的训练时间从几周缩短到几天。

针对服务器应用,H100 也可以虚拟化为 7 个用户共同使用,每个用户获得的算力相当于两块全功率的 T4 GPU。此外,H100 还实现了业界首个基于 GPU 的机密计算。

基于 Hopper 架构的 H100,英伟达还推出了机器学习工作站、超级计算机等一系列产品。8 块 H100 和 4 个 NVLink 结合组成一个巨型 GPU——DGX H100,一共有 6400 亿晶体管,AI 算力 32 petaflops,HBM3 内存容量高达 640G。

与此同时,得益于与 Equinix(管理全球 240 多个数据中心的全球服务提供商)的合作, A100 和 H100 的新型 GPU 通过水冷方式来节省用户的能源成本。使用这种冷却方法最多可以节省 110 亿瓦时,可以在 AI 和 HPC 推理工作中实现 20 倍的效率提升。


點評

    TOP Posted: 09-01 18:59 引用 | 點評
    帝班漢卿大牛


    級別:光明使者 ( 14 )
    發帖:6140
    威望:14174 點
    金錢:45279 USD
    貢獻:8465 點
    註冊:2020-10-09
    認證: 技術區認證會員
    2021-04-28

    支持每日圖說,天下大事,尽收眼底!
    ------------------------
    N



    點評

      TOP Posted: 09-01 19:05 引用 | 點評
      佐默


      級別:聖騎士 ( 11 )
      發帖:1240
      威望:145 點
      金錢:724375 USD
      貢獻:28888 點
      註冊:2021-05-12

      “核墙国”关于封城的“谣言”基本都是准确的,不会有呆瓜还不信吧。哈哈……
      TOP Posted: 09-01 19:13 引用 | 點評
      Sry


      級別:精靈王 ( 12 )
      發帖:1218
      威望:147 點
      金錢:62941 USD
      貢獻:50000 點
      註冊:2022-05-20

      感谢分享
      TOP Posted: 09-01 22:01 引用 | 點評
      马总


      級別:新手上路 ( 8 )
      發帖:924
      威望:93 點
      金錢:6790 USD
      貢獻:0 點
      註冊:2022-06-04

      感谢分享
      TOP Posted: 09-01 22:01 引用 | 點評
      杨紫烨


      級別:俠客 ( 9 )
      發帖:1195
      威望:121 點
      金錢:568 USD
      貢獻:600 點
      註冊:2013-06-29

      感觉今天没什么大事发生呢,还是因为我们已经习惯悲剧,不再关注?
      TOP Posted: 09-01 19:09 引用 | 點評
      贝贝


      級別:風雲使者 ( 13 )
      發帖:75170
      威望:7775 點
      金錢:859471184 USD
      貢獻:2208 點
      註冊:2009-03-23

      再次证明它们所说的是谣言,就是遥遥领先的预言。
      看【图说】。
      TOP Posted: 09-01 19:17 引用 | 點評
      姚安娜


      級別:聖騎士 ( 11 )
      發帖:1002
      威望:101 點
      金錢:10126 USD
      貢獻:30000 點
      註冊:2022-04-23

      感谢分享
      TOP Posted: 09-01 22:02 引用 | 點評
      这是个问题啊


      級別:風雲使者 ( 13 )
      發帖:45244
      威望:4570 點
      金錢:202 USD
      貢獻:59077 點
      註冊:2021-01-01

      发帖辛苦
      TOP Posted: 09-01 22:02 引用 | 點評
      沉睡的木玛


      級別:風雲使者 ( 13 )
      發帖:45244
      威望:4570 點
      金錢:196 USD
      貢獻:59077 點
      註冊:2018-11-16

      支持发帖
      TOP Posted: 09-01 22:02 引用 | 點評
      半天云


      級別:騎士 ( 10 )
      發帖:1756
      威望:217 點
      金錢:1440 USD
      貢獻:5500 點
      註冊:2014-11-16

      空巢大学生


      點評

        TOP Posted: 09-01 19:03 引用 | 點評
        竹林『笙』歌


        級別:精靈王 ( 12 )
        發帖:16464
        威望:1602 點
        金錢:6007 USD
        貢獻:54296 點
        註冊:2016-02-05

        感谢分享
        TOP Posted: 09-01 19:09 引用 | 點評
        窗扉紧掩


        級別:騎士 ( 10 )
        發帖:3865
        威望:387 點
        金錢:1702085 USD
        貢獻:301 點
        註冊:2015-06-01

        看土豆什么梗?


        點評

          TOP Posted: 09-01 19:55 引用 | 點評
          冰丝内裤


          級別:精靈王 ( 12 )
          發帖:1243
          威望:125 點
          金錢:89355 USD
          貢獻:44444 點
          註冊:2022-04-23

          感谢分享
          TOP Posted: 09-01 22:02 引用 | 點評
          鸭打鹅


          級別:精靈王 ( 12 )
          發帖:36164
          威望:3580 點
          金錢:45 USD
          貢獻:15714 點
          註冊:2022-02-02

          谢谢分享
          TOP Posted: 09-01 22:03 引用 | 點評
          杨左使


          級別:騎士 ( 10 )
          發帖:5242
          威望:526 點
          金錢:86144 USD
          貢獻:286 點
          註冊:2019-11-20

          看图说
          TOP Posted: 09-01 22:18 引用 | 點評
          零下八度


          級別:天使 ( 14 )
          發帖:14350
          威望:5155 點
          金錢:730955886 USD
          貢獻:2555555 點
          註冊:2013-03-15

          看图说,免洗脑
          ------------------------
          X

          TOP Posted: 09-01 22:38 引用 | 點評
          艾凤捌


          級別:精靈王 ( 12 )
          發帖:14401
          威望:3140 點
          金錢:69994 USD
          貢獻:12512 點
          註冊:2015-11-10

          感谢分享
          TOP Posted: 09-02 02:33 引用 | 點評
          wdfldrd400


          級別:精靈王 ( 12 )
          發帖:10740
          威望:981 點
          金錢:106 USD
          貢獻:1023 點
          註冊:2011-06-06

          支持图说
          TOP Posted: 09-02 05:20 引用 | 點評
          luckytiger


          級別:俠客 ( 9 )
          發帖:512
          威望:159 點
          金錢:6740 USD
          貢獻:0 點
          註冊:2022-08-29

          1024
          TOP Posted: 09-02 09:21 引用 | 點評
          v5621780


          級別:風雲使者 ( 13 )
          發帖:4810
          威望:1762 點
          金錢:11608984 USD
          貢獻:184700 點
          註冊:2009-12-31

          感谢分享
          TOP Posted: 09-02 11:16 引用 | 點評
          最后的时代


          級別:天使 ( 14 )
          發帖:11986
          威望:1750 點
          金錢:94 USD
          貢獻:2434411 點
          註冊:2017-09-08

          感谢分享
          TOP Posted: 09-02 20:00 引用 | 點評
          稻上飞黑白猫


          級別:精靈王 ( 12 )
          發帖:2640
          威望:423 點
          金錢:155 USD
          貢獻:42530 點
          註冊:2022-04-10

          谢谢分享1
          TOP Posted: 09-12 01:04 引用 | 點評
          梦回游仙


          級別:天使 ( 14 )
          發帖:2867
          威望:304 點
          金錢:857621425 USD
          貢獻:2678388 點
          註冊:2011-09-22

          感谢分享


          點評

            TOP Posted: 09-01 19:07 引用 | 點評
            .:. 草榴社區 » 技術討論區

            電腦版 手機版 客戶端 DMCA
            用時 0.01(s) x2, 11-26 13:20