0
联系电话:4001-158-698EN

公司新闻 行业动态 产品知识

5001拉斯维加斯-如何应对AI推理的数据洪流?专用SSD与液冷成破局关键

【导读】跟着人工智能技能的飞速成长,GPU算力的指数级增加正对于底层基础举措措施提出史无前例的挑战。Solidigm深刻洞察到,纯真依赖计较能力的晋升已经不足以支撑将来的AI事情负载,存储体系的效率与架构改造成了决议体系总体机能的要害。面临这一转型,Solidigm总结了当前重塑AI数据存储格式的三年夜焦点趋向:存储成长必需与GPU算力同步演进以打破机能瓶颈,专用AI SSD正从被动存储向自动计较介入者改变,以和液冷技能的鼓起将为高密度办事器情况带来物理形态的底子性厘革。这些趋向配合指向一个越发平衡、高效且智能的AI基础举措措施新范式。

趋向一:存储的成长必需与GPU算力齐头并进

当GPU变患上日趋强劲,存储的效率需要响应晋升,于更高的机能要求与更低的功耗之间取患上均衡。Solidigm工程司理Hardeep Singh暗示:“功耗至关主要。GPU功耗的爬升,要求存储必需变患上更高效,用较低的功耗维持高机能。”这给办事器内部及整个集群带来了许多的存储挑战。

于办事器内部,GPU算力的连续增加让存储的机能瓶颈愈发凸显。缘故原由有如下几点:起首,现代加快器耗损数据的速率跨越了传统NVMe SSD的数据供应速率。于存储路径没法满意GPU数据需求的环节,将不成防止地带来体系机能的降低。

Solidigm的AI专家们暗示,这一挑战于集群层面会进一步加重:为数千个GPU供应数据,需要年夜范围的SSD集群。这些集群需要可以或许提供极高的并行性,于读取密集型的AI事情负载下实现精彩的磨损平衡,而且于QoS不会降落的条件下连结机能的不变。

遗憾的是,存储其实不是独一的瓶颈。规模、范围以和与主机体系的交互都将遭到近似影响。确保内部及外部收集能高效地将数据从存储端传输到计较资源将很是主要。

降服这些障碍的要领,于在存储解决方案的范围与扩大能力。咱们应该不只存眷单个驱动器的速率,还有应该存眷可以或许驾御强盛GPU需求的解决方案级能力。如前所述,相较在计较能力,存储效率才是体系机能的决议性因素。

谈和近来发布的NVIDIA推理上下文影象存储平台(ICMSP),Solidigm AI与生态体系营销总监Ace Stryker剖析道:“多年来,模子练习数据的激增吸引了年夜量的眼光,但真实的发作实在发生于由RAG数据与KV缓存(模子用在影象用户交互的上下文)等趋向驱动的AI推理端。”他增补说,NVIDIA的发布印证了这一点。Solidigm依附其领先的产物、安定的伙伴瓜葛及深挚的技能积淀,已经预备好引领这场厘革。

Ace Stryker 暗示:“显而易见,经由过程GPU内存来治理所有内容是天方夜谭,而高机能SSD是准确的解决方案。”

趋向二:专用AI SSD演进,以满意AI存储需求

为支撑AI所需的海量吞吐,SSD从被动的存储装备蜕变为了自动的计较介入者。SSD架构正于履历着深刻厘革,包括:

深度并行:从头设计节制器,为极高的随机读取IOPS办事,同时降低尾延迟峰值,防止AI练习阻滞。

精简仓库:进一步精简PCIe及NVMe仓库,于数据路径中降低每一微秒的延迟。

更智能的固件:进步前辈的遥测及数据放置算法可以或许预取数据,并将其切确地部署于GPU需要之处。

存储架构的演进还有表现于其使用SSD差别特征的方式上。Solidigm带领力叙事与技能传教总监Scott Shadley指出,SSD一向的低延迟机能,可以或许应答连续增加的数据拜候需求,而将数据从HDD迁徙至SSD,则为及时AI运用提供了数据可用性保障。跟着SSD逐渐改变为AI专用驱动器,SSD的脚色将再也不局限在存储,而更像一种高带宽的内存扩大。

趋向三:液冷存储的鼓起

咱们预感,2026年最庞大的物理形态厘革,将是向无电扇的液冷办事器情况的过渡。正如Solidigm AI与带领力营销高级总监Roger Corell所说,对于在功率密过活益增高的情况而言,高效的散热治理至关主要;而于散热效率上,液冷比风冷要超出跨越一个数目级。Solidigm团队与NVIDIA率先推出了采用单面冷板技能的液冷eSSD,这一互助是一个很好的典范。

这一物理形态改变的暗地里,有两年夜驱动力:其一,当GPU/CPU采用液冷后,传统电扇便掉去了存于的须要;其二,跟着存储功耗与机能的同步上升,传统风冷已经力有未逮。

液冷的采用,消弭了办事器设计对于在风冷的依靠。这使患上SSD能于维持划一尺寸的条件下,开释出更高的连续机能。Solidigm AI市场赋能与互助高级总监Avi Shetty暗示:“借助远超风冷的散热效率,液冷技能让存储可以或许自在应答下一代AI体系于散热与密度上的严苛要求。”

借助全液冷的解决方案,咱们患上以挣脱传统电扇散热的束厄局促,从而更好地优化体系设计。这一转变付与了设计更高的自由度,催生了密度更高的办事器形态,并加快了SSD从U.2等传统规格向EDSFF等新形态的过渡。

1772155296289444.jpg

1772155290951103.jpg

SSD:AI的焦点赋能者

瞻望2026年及将来,曾经经算力为王的AI时代最先迈向一个越发平衡、总体的基础举措措施新范式。权衡一个体系机能的,不单单是GPU每一秒万亿次的浮点运算,更是数据供应的效率。

Solidigm存眷的重点从未转变:咱们专注在那些足以重塑AI数据存储和将来格式的开拓性理念与立异。咱们期待与您联袂,配合迈向一个存储饰演AI事情流程中自动、智能介入者脚色的将来。

总结

AI时代将从“算力为王”迈向计较与存储协同成长的总体基础举措措施新纪元。权衡体系机能的尺度再也不仅仅是GPU的浮点运算能力,更于在数据供应的效率与智能化程度。Solidigm将继承致力在经由过程开拓性的理念与立异,鞭策存储脚色从被动的数据堆栈改变为AI事情流程中自动、智能的介入者。

3-958x200_20251021044704_586.png

-5001拉斯维加斯
1210
在线客服
在线客服

Maggie

微信咨询

黎小姐