十次方首页 | 在线客服 |

浪潮服务器咨询:0755-26922157

| 帮助中心 | 关于我们

专注于超强算力浪潮服务器销售

当前位置: 十次方首页 IT新闻 行业动态 英伟达最新GPUDirect储存技术,提升内存吞吐速度整整快了8.8倍 ...

英伟达最新GPUDirect储存技术,提升内存吞吐速度整整快了8.8倍 ...

  Nvidia发展GPUDirect储存技术,大幅提升GPU加载大型资料集的速度,使用GPUDirect储存技术,GPU加载资料集的工作不再完全需要仰赖CPU,因而解除了资料I/O的瓶颈。

  

英伟达最新GPUDirect储存技术,提升内存吞吐速度整整快了8.8倍 ...


  Nvidia发展了名为GPUDirect储存(GPUDirect Storage)的资料传输技术,加快位在各种储存的资料,传输到GPU内存的速度,可以将频宽增加至原本的2到8倍,而且还能降低端到端的延迟达3.8倍。

  由于人工智能以及高效能运算的资料集规模不断的增加,应用程序加载资料花费的时间越来越长,进而影响了应用程序的效能,而且特别是端到端架构,会因为缓慢的I/O使得运算速度日益提升的GPU无用武之地。Nvidia提到,将资料从储存器加载到GPU,过去都是由CPU负责,而这将会成为硬件效能的瓶颈。

  资料从NVMe磁盘传输到GPU内存的标准路径,是使用系统内存中的反弹缓冲区(Bounce Buffer),而GPUDirect储存技术避免使用反弹缓冲区,以减少额外的资料副本,并使用直接内存存取引擎(Direct Memory Access,DMA)将资料直接放到GPU内存中,为远端或是本地储存,诸如NVMe或NVMe over Fabric,和GPU内存之间,建立一个直接传输资料的路径,而这能有效减轻CPU I/O的瓶颈,提升I/O频宽和传输资料的量。

  Nvidia提到,GPUDirect储存技术的主要功能,就是透过这个新的档案系统,以直接内存存取的方式,将资料传输至GPU内存上。无论资源原本存放在什么位置,都能使用GPUDirect储存技术,这些储存可能位在机箱内、机架上甚至通过网络连接都可以。

  Nvidia在GPU资料科学平台RAPIDS中的GPU资料影格(GPU DataFrame,GDF)函式库cuDF上进行实验,发现使用GPUDirect存储技术,比起原始cuDF CSV读取程序,将资料传输到GPU内存的吞吐速度快了8.8倍。cuDF是让使用者在GPU上,用来加载、过滤、排序和探索资料集的函式库。

  Nvidia表示,应用这项新技术,远端储存、本机端储存以及CPU内存到GPU内存的频宽,可以在互相组合后加乘,以人工智能超级计算机DGX-2为例,从CPU系统内存到GPU内存的频宽限制为50 GB/s,但综合从系统内存、本机端硬盘以及NIC(Network Interface Card)的资料,最高频宽甚至可以达215 GB/s。

  关于十次方:十次方作为专业的IT硬件在线租赁平台,专注于企业级服务器租赁业务,为企业提供数据中心IT硬件全生命周期解决方案,支持戴尔服务器惠普服务器浪潮服务器等各大主流服务器品牌。租服务器,在线咨询服务器租用价格,咨询算力银行项目,就找在线IT租赁平台十次方。


  十次方热门文章阅读排行:


  什么是算力银行:https://www.10cifang.com/news/3591.html

  租服务器一年多少钱:https://www.10cifang.com/news/3507.html

  租服务器的价格:https://www.10cifang.com/news/3529.html

  租服务器如何选配置:https://www.10cifang.com/news/3531.html

  在哪里可以租用服务器:https://www.10cifang.com/news/3509.html

  租服务器哪家好:https://www.10cifang.com/news/3511.html

  怎样租服务器:https://www.10cifang.com/news/3505.html

  服务器租用价格表:https://www.10cifang.com/news/3523.html

  机房服务器租用价格:https://www.10cifang.com/news/3513.html

  机房服务器租用价格是多少:https://www.10cifang.com/news/3513.html

  区块链服务器搭建:www.10cifang.com/news/3579.html

  区块链服务器配置:https://www.10cifang.com/tags/25

  区块链服务器租用:https://www.10cifang.com/tags/25

  区块链服务器租用价格:https://www.10cifang.com/news/3593.html

  区块链服务器成本:https://www.10cifang.com/news/3579.html

  区块链服务器多少钱:https://www.10cifang.com/news/3579.html

  独立服务器租用:https://www.10cifang.com/tags/18

  独立服务器租用哪家好:https://www.10cifang.com/news/3601.html

  独立服务器租用价格:https://www.10cifang.com/news/3575.html

  浪潮服务器租用:https://www.10cifang.com/tags/24

  浪潮服务器分销:https://www.10cifang.com/tags/24

  深圳浪潮服务器分销:https://www.10cifang.com/tags/109


十次方专注于浪潮服务器销售,正品保证,稳定可靠,超强算力,快速部署!

客服热线:0755-26922157 微信:18123621760

本文链接: https://www.10cifang.com/news/3432.html
AMD64核二代EPYC服务器处理器上市 效能翻倍,能耗减倍

相关文章


0评论

文章点评

深圳-浪潮服务器独家分销商

最新文章

热门文章

热门标签

评论回复