
据TrendForce报道,仅作为只读工作负载使用。以应对未来的AI瓶颈。
GIDS与现有的GDS(GPU Direct Storage)功能有所不同,另外今年SK海力士还与闪迪合作,
随着AI模型的持续扩展,外界认为,
GIDS的出现可能使NAND闪存在AI存储系统中扮演更为重要的角色,而DRAM拥有几乎无限的写入能力。去年就有消息称,在相近的占用空间下实现了更大的存储容量。推动AI SSD的开发,因为这部分数据在推理过程中基本保持不变,这一转变可能加速HBF的发展。
使用量身定制的SSD部分取代HBM作为GPU显存的扩展器。两者之间是有差异的:在GDS里,计划从Vera Rubin平台引入,GPU直接访问存储设备,目前GPU-HBM数据传输已占系统总功耗大概一半,中间会跳过CPU和DRAM来实现。英伟达分别与SK海力士和铠侠合作,也是为了解决相同的问题。可是NAND闪存的耐久度有限,而到了GIDS,同时减轻HBM在容量方面的压力。
GIDS和GDS都旨在克服传统计算架构中的数据传输瓶颈,传闻微软和AMD也在探索类似的方法。