NVIDIA BlueField-4 驅動 NVIDIA 推論情境記憶儲存平台（NVIDIA Inference Context Memory Storage Platform），這是專為千兆級推論設計的全新 AI 原生儲存基礎架構，可加速並擴充代理型 AI。

CES—NVIDIA 今日宣布，作為全端 NVIDIA BlueField 平台一部分的 NVIDIA BlueField®-4 資料處理器，將驅動 NVIDIA 推論情境記憶儲存平台（NVIDIA Inference Context Memory Storage Platform），這是專為 AI 下一個前沿打造的新一代 AI 原生儲存基礎架構。

隨著 AI 模型擴展至數兆個參數與多步驟推理，會產生大量情境資料——以鍵值（KV）快取表示——對準確性、使用者體驗與連續性至關重要。

KV 快取無法長期儲存在 GPU 上，因為這會對多代理系統中的即時推論造成瓶頸。AI 原生應用需要全新類型的可擴充基礎架構，以儲存並分享這些資料。

NVIDIA 推論情境記憶儲存平台藉由擴展 GPU 記憶體容量、實現節點間高速共享，提供情境記憶的基礎架構，將每秒詞元數量提升多達 5 倍，並相較傳統儲存提供高達 5 倍的能源效率。

「AI 正在徹底革新整個運算堆疊——現在，輪到儲存，」NVIDIA 創辦人暨執行長 Jensen Huang 表示。「AI 不再只是一次性的聊天機器人，而是能理解物理世界、進行長期推理、立足事實、使用工具完成實際工作，並保留短期與長期記憶的智慧協作夥伴。透過 BlueField-4，NVIDIA 與我們的軟體及硬體合作夥伴，正重新打造儲存堆疊，迎向 AI 的下一個前沿。」

NVIDIA 推論情境記憶儲存平台可提升 KV 快取容量，並加速機架級 AI 系統叢集間的情境共享；同時，多回合 AI 代理的持續情境可改善回應能力、提高 AI 工廠輸送量，並支援長情境、多代理推論的有效擴展。

NVIDIA BlueField-4 驅動平台的主要功能包括：

NVIDIA Rubin 叢集級 KV 快取容量，提供長情境、多回合代理型推論所需的規模與效率。

相較於傳統儲存，能源效率最高提升 5 倍。

透過 NVIDIA DOCA™ 框架，在 AI 節點間智慧加速共享 KV 快取，並與 NVIDIA NIXL 函式庫及 NVIDIA Dynamo 軟體緊密整合，以最大化每秒詞元數量、縮短首次生成詞元的時間，並改善多回合回應能力。

由 NVIDIA BlueField-4 管理的硬體加速 KV 快取放置，可消除詮釋資料負擔、減少資料移動，並確保來自 GPU 節點的安全隔離存取。

由 NVIDIA Spectrum-X™ 乙太網路支援的高效資料共享與檢索，可作為以 RDMA 存取 AI 原生 KV 快取的高效能網路架構。

包括 AIC、Cloudian、DDN、Dell Technologies、HPE、Hitachi Vantara、IBM、Nutanix、Pure Storage、Supermicro、VAST Data 與 WEKA 在內的儲存創新業者，率先以 BlueField-4 打造新一代 AI 儲存平台，預計於 2026 年下半年推出。