岩芯矩阵联合港科大、CMU开源EdgeRock-4B：KV Cache减少99.1%，单卡512路并发

岩山科技旗下岩芯矩阵联合港科大、CMU发布并开源EdgeRock-4B，256K上下文下KV Cache固定72MiB，较源模型Qwen3.5-4B减少99.1%，单张80GB显卡可跑512路并发，输出吞吐12124 tokens/s、为源模型的6.42倍。