英伟达最新GPUDirect储存技术，提升内存吞吐速度整整快了8.8倍 ...

　　Nvidia发展GPUDirect储存技术，大幅提升GPU加载大型资料集的速度，使用GPUDirect储存技术，GPU加载资料集的工作不再完全需要仰赖CPU，因而解除了资料I/O的瓶颈。

　　Nvidia发展了名为GPUDirect储存(GPUDirect Storage)的资料传输技术，加快位在各种储存的资料，传输到GPU内存的速度，可以将频宽增加至原本的2到8倍，而且还能降低端到端的延迟达3.8倍。

　　由于人工智能以及高效能运算的资料集规模不断的增加，应用程序加载资料花费的时间越来越长，进而影响了应用程序的效能，而且特别是端到端架构，会因为缓慢的I/O使得运算速度日益提升的GPU无用武之地。Nvidia提到，将资料从储存器加载到GPU，过去都是由CPU负责，而这将会成为硬件效能的瓶颈。

　　资料从NVMe磁盘传输到GPU内存的标准路径，是使用系统内存中的反弹缓冲区(Bounce Buffer)，而GPUDirect储存技术避免使用反弹缓冲区，以减少额外的资料副本，并使用直接内存存取引擎(Direct Memory Access，DMA)将资料直接放到GPU内存中，为远端或是本地储存，诸如NVMe或NVMe over Fabric，和GPU内存之间，建立一个直接传输资料的路径，而这能有效减轻CPU I/O的瓶颈，提升I/O频宽和传输资料的量。

　　Nvidia提到，GPUDirect储存技术的主要功能，就是透过这个新的档案系统，以直接内存存取的方式，将资料传输至GPU内存上。无论资源原本存放在什么位置，都能使用GPUDirect储存技术，这些储存可能位在机箱内、机架上甚至通过网络连接都可以。

　　Nvidia在GPU资料科学平台RAPIDS中的GPU资料影格(GPU DataFrame，GDF)函式库cuDF上进行实验，发现使用GPUDirect存储技术，比起原始cuDF CSV读取程序，将资料传输到GPU内存的吞吐速度快了8.8倍。cuDF是让使用者在GPU上，用来加载、过滤、排序和探索资料集的函式库。

　　Nvidia表示，应用这项新技术，远端储存、本机端储存以及CPU内存到GPU内存的频宽，可以在互相组合后加乘，以人工智能超级计算机DGX-2为例，从CPU系统内存到GPU内存的频宽限制为50 GB/s，但综合从系统内存、本机端硬盘以及NIC(Network Interface Card)的资料，最高频宽甚至可以达215 GB/s。

　　关于十次方：十次方作为专业的IT硬件在线租赁平台，专注于企业级服务器租赁业务，为企业提供数据中心IT硬件全生命周期解决方案，支持戴尔服务器、惠普服务器、浪潮服务器等各大主流服务器品牌。租服务器，在线咨询服务器租用价格，咨询算力银行项目，就找在线IT租赁平台十次方。

　　十次方热门文章阅读排行：

　　什么是算力银行：https://www.10cifang.com/news/3591.html

　　租服务器一年多少钱：https://www.10cifang.com/news/3507.html

　　租服务器的价格：https://www.10cifang.com/news/3529.html

　　租服务器如何选配置：https://www.10cifang.com/news/3531.html

　　在哪里可以租用服务器：https://www.10cifang.com/news/3509.html

　　租服务器哪家好：https://www.10cifang.com/news/3511.html

　　怎样租服务器：https://www.10cifang.com/news/3505.html

　　服务器租用价格表：https://www.10cifang.com/news/3523.html

　　机房服务器租用价格：https://www.10cifang.com/news/3513.html

　　机房服务器租用价格是多少：https://www.10cifang.com/news/3513.html

　　区块链服务器搭建：www.10cifang.com/news/3579.html

　　区块链服务器配置：https://www.10cifang.com/tags/25

　　区块链服务器租用：https://www.10cifang.com/tags/25

　　区块链服务器租用价格：https://www.10cifang.com/news/3593.html

　　区块链服务器成本：https://www.10cifang.com/news/3579.html

　　区块链服务器多少钱：https://www.10cifang.com/news/3579.html

　　独立服务器租用：https://www.10cifang.com/tags/18

　　独立服务器租用哪家好：https://www.10cifang.com/news/3601.html

　　独立服务器租用价格：https://www.10cifang.com/news/3575.html

　　浪潮服务器租用：https://www.10cifang.com/tags/24

　　浪潮服务器分销：https://www.10cifang.com/tags/24

　　深圳浪潮服务器分销：https://www.10cifang.com/tags/109