NVIDIA首秀Blackwell GB200超级芯片系统:AI推理性能飙升1.5倍
现已有消息提醒称,NVIDIA Blackwell体统架构的第四代名将GPU推后订货,是手官不会承不承认,也不会驳斥,是静静扔掉一套依托于第四代名将GB200 GPU+CPU非常存储芯片的服务质量器体统,呈现一番。GB200 Grace Blackwell比如二颗B200 GPU、一棵Grace CPU,总功能消耗达到2700W。其中的,B200拥用2040亿个尖晶石管、8096-bit 192GB HBM3E内存条(带宽的配置8TB/s),耐磨性达到了了9PFlops(每秒9五百万亿次),输出功率首先达到了了1000W。
NVIDIA展示的服务器犹如一件艺术品,一条条蓝色和铜色排线,大量超粗直径铜管,超大体积的散热片,组成了一个庞然大物。
NVIDIA不外泄具体的配备,只说为有何NVSwitch不同版本升级,其总传输速率高达独角兽14.4TB/s。性能方面只给出了一个数据:Llama 3.1 700亿参数大模型的AI推理性能对比H200提高了足足1.5倍。
排热怎么样办?NVIDIA一脸也在開發冷热水排热软件系统,不错将耗能量抑制28%。当然,NVIDIA一样沒有如下Blackwell GPU服务管理器的出库用时,相信在今年初4、月度。可能出现的Hot Chip 2024大大会上,NVIDIA会详情分享Blackwell GPU,还会持续全面一个脚印透露明天Vera CPU、Rubin GPU的消息提醒。
介绍这篇的文章:
本文由 知识面 发布。
敬告:部分网络作品查找作者困难,如有侵权行为,请与本站联系。
评论