英伟达宣告全天下最强AI芯片H200：功能较H100提升近一倍

快科技今日（11月14日）新闻，英伟在2023年全天下超算大会（SC2023）上，达宣芯片巨头英伟达宣告了H100芯片的告全H功继任者，也是天下H提当初天下最强的AI芯片——H200。

比照于其前任产物H100，最强H200的芯片功能直接提升了60%到90%。

不光如斯，升近H200与H100同样都是英伟基于英伟达Hopper架构打造，这也象征着两款芯片可能相互兼容，达宣对于运用H100企业而言，告全H功可能无缝替换成最新的天下H提H200。

同时H200仍是最强英伟达首款运用HBM3e内存的芯片，速率更快容量更大，芯片更合适用于狂语言模子的升近磨炼概况推理。

除了HBM3e内存外，英伟H200的内存容量为141GB，带宽从H100的3.35TB/s削减到了4.8TB/s。

H200的功能提升最主要体如今大模子推理展现上，H200 在700亿参数的Llama2大模子上的推理速率比H100快了一倍，而且在推理能耗上H200比照H100直接飞腾了一半。

对于显存密集型HPC运用，H200更高的显存带宽可能确保高效地碰头操作数据，与CPU比照，取患上服从的光阴至多可提升110倍。

英伟达展现H200估量将于2024年第二季度出货，售价还暂未宣告，不外在算力荒下，大科技公司们估量仍是会纵容囤货。