雷峰网·· 27 天前AI 评分38
GMIF 2026:日均140万亿Token调用,正在改变SSD的能力与分工
AI 导读
截至今年3月,中国日均Token调用量突破140万亿,规模化推理正推动SSD从单纯容量存储向承接热KV Cache、模型权重等靠近计算的数据延伸。三星展示Z-NAND方案,将大容量读取密集的模型权重放入Z-NAND、KV Cache留在DRAM;北美大型互联网公司已开始用大容量QLC SSD替代部分HDD。数据管理也从兜底式分层转向系统设计之初的主动分层与运行中的动态调度。
来源:雷峰网 · leiphone.com