英伟达开源 cuFile API 及底层存储软件栈,使 NVMe 等存储设备可绕过 CPU 和主内存,直接向 GPU 显存传输数据。该能力可缓解分布式推理的数据供给瓶颈,并加速 RAG 与 Agent 读取大型数据集。
IT之家 8 月 7 日消息,科技媒体 SiliconANGLE 于 8 月 5 日发布博文称,英伟达正在研发一项新技术,未来可让 SSD 固态硬盘充当额外显存,从而改善游戏或 AI 场景下的运行表现。

在美国拉斯维加斯举办的 2026 年黑帽网络安全大会(8 月 1 日至 6 日)上,英伟达宣布开源 cuFile API 及其底层存储软件栈。
IT之家注:cuFile API 是 NVIDIA GPUDirect Storage 技术中的接口组件,用于让应用访问 GPU 直连存储能力,目标是让存储数据在毫秒级抵达 GPU。
GPUDirect Storage 是一种让存储设备与 GPU 直接传输数据的技术。传统路径需要先将数据读入主内存的临时缓冲区,再复制到 GPU 内存;该技术旨在减少主内存中转,降低延迟并提升数据访问速度。
cuFile 于 2021 年 7 月随 CUDA Toolkit 11.4 发布。该技术可让本地分布式存储与 GPU 内存直接交换数据,绕过中央处理器与系统主内存,从而降低内存访问延迟。
在数据路径方面,cuFile 依托 DMA(直接内存访问),可将 NVMe(非易失性内存高速接口)硬盘等存储设备中的数据直接送入 GPU 内存。
AI 推理主要依赖 GPU 与专用加速卡。如果数据带宽受阻,分布式 GPU 阵列中的部分 GPU 会因等待数据而闲置,形成“GPU starvation”(GPU 饥饿)问题。英伟达称,毫秒级低延迟可帮助检索增强生成与智能体 AI 更快读取深层存储中的大型数据集。
英伟达还发布了 Storage-Next(下一代存储)行业倡议。该倡议覆盖 40 家领先的存储与闪存厂商,包括 DataDirect Networks、铠侠(Kioxia)和美光科技(Micron Technology)。
软媒旗下网站:IT之家、最会买——返利返现优惠券、iPhone之家、Win7之家、Win10之家、Win11之家。
软媒旗下软件:软媒手机 APP 应用、魔方、最会买、要知。