大模型厂商疯狂扫货GPU的第3年,一个反直觉的瓶颈浮出水面:某大型Token工厂里,24张GPU的算力被白白浪费,不是芯片不够快,而是KV Cache——那些存着对话上下文的中间数据——在传统存储系统里来回搬运,把算力拖进了泥潭。成立于2019年的AI原生存储厂商“华瑞指数云(ExponTech)”,用一套名为WQS的KV Cache存储系统,在不新增任何GPU的前提下,让同一批硬件跑出了相当于48张GPU的Token产能。
希鸥网观察到,这家由华为22级高管与21级技术专家领衔创立的深圳公司,近日完成超亿元新一轮融资,由一家具备大型科技投资经验的产业基金与琮碧秋实投资联合领投,某国有产投基金跟投。资金将砸向WQS的持续研发与规模化交付。核心坐标极其明确:AI推理场景下的KV Cache存储层,用SSD构建的分布式KV池替代昂贵DRAM,解决长上下文与多轮交互场景中内存墙卡住GPU产出的痛点。
为什么KV Cache成了吞金兽?AI进入Agent与长上下文阶段后,每次推理都要保存海量已计算的上下文供复用。传统方案要么塞进昂贵且容量有限的DRAM,要么任由它溢出到慢速存储引发重复计算。华瑞指数云的做法是重构从SSD到GPU的IO路径,让SSD构建的KV池性能逼近DRAM内存池。在某大型企业的生产验证中,WQS与现有推理节点融合部署,首Token时延降低60%,输出Token吞吐提升超过3倍。
这背后是一笔清晰的经济账。一张H100的云端租赁价格按小时计,推理成本的大头是GPU折旧与电费。当KV Cache命中率提升、重复计算被砍掉,单张GPU的有效产出被硬生生放大。华瑞指数云披露的极端数据是:24张GPU加1个WQS节点,干出了48张GPU的活。对Token服务厂商而言,这等于把资本开支的回收周期砍近一半。低价SSD替代高价DRAM构建大规模上下文池,从“理论可行”变成了“生产可行”。
更深层的壁垒不在单点技术,而在六年自研的分布式存储引擎WiDE。该引擎曾在SPC-1全球存储性能榜上超越全球存储大厂的高端旗舰产品,位列第一。从WiDE到统一存储底座WADP,再到WQS,底层并行IO处理、数据保护与故障恢复能力已在200余家客户的核心生产环境中跑了多年。架构设计之后的工程打磨以年为单位,高并发下的尾延迟、硬件异常后的快速恢复,这些现场经验构成了难以快速复制的壁垒。
希鸥网认为,未来12到18个月是全球AI推理系统KV Cache选型的关键窗口。英伟达在2026年提出CMX架构,明确基于SSD构建AI上下文存储层,方向已经锚定。一旦生态默认方案固化,后来者的替换成本极高。华瑞指数云称已率先完成CMX架构适配验证并进入批量生产级验证,是窗口期内少数具备条件的候选者。谁能在头部大模型厂商的生产环境中先跑稳,谁就能拿到定义标准的入场券。
对创业者而言,这里藏着一个精益创业的经典命题:华瑞指数云没有等待新型SSD介质量产,而是先用现有硬件把系统价值跑出来。这正是最小可行产品的要义——初代产品不必完美,但必须尽早启动开发、测量、认知的闭环。WQS在客户现有硬件上做联合测试,用真实生产数据证明时延和吞吐收益,而非闭门造出完美产品再找市场。用最低成本获取真实行为数据,方向对不对,产线上见分晓。
更值得琢磨的是其核算体系。合同额同比增长150%这种虚荣指标之外,华瑞指数云盯的是生产级POC通过率、存量客户增购率、首Token时延降幅这些可细分、可对比、可行动的指标。创业初期的核心目标是获取认知,不是追求效率优化。当多家头部金融企业和大模型厂商同步推进验收,每一次POC都是一次假设检验:KV Cache存储层到底能不能在真实负载下守住性能下限。
小批量迭代的逻辑同样贯穿其中。WQS并非一次性押注所有算力平台,而是先从英伟达生态切入,同时推进与AMD、昇腾的适配,与SSD厂商大普微、磁介质厂商大数极限做协同设计。依据真实客户反馈决定先啃哪块硬骨头,而非预判式地批量开发所有功能。从vLLM、SGLang到LMCache的生态对接,也是成熟一个接入一个。单次失误损耗低,随时可以调整方向,这才是硬件协同研发该有的节奏。
金鸥品牌榜·2026年度创新案例库开放申报了。免费提报,独立评估,入榜品牌将获得电子版《入榜证明》及年度专题公示,优秀案例可获得深度专访+全平台分发。如需修改或发布文章,请加微信号:sheisceo