无问芯穹登顶NVIDIA SOL-ExecBench,拿下88项GPU算子优化第一
无问芯穹(Infinigence AI)在NVIDIA Research的GPU算子性能评测SOL-ExecBench上先后登顶L1基础算子、L2融合算子、Quant量化算子与FlashInfer-Bench四大赛道。
无问芯穹(Infinigence AI)在NVIDIA Research的GPU算子性能评测SOL-ExecBench上先后登顶L1基础算子、L2融合算子、Quant量化算子与FlashInfer-Bench四大赛道。
OpenAI 发布 GPT-6.1 Terra,API 输入 $1/M tokens、输出 $5,为 GPT-5.6 Terra 的一半,缓存输入降至 $0.05/M。
推荐理由:原文汇总多项基准数据与价格对比,读者可以据此评估这款中端模型在不同推理档位下的性价比定位。
DeepSeek 近日全面开源推理框架 DeepInfer,开放模型运行链路,其中 FlashMLA 手调版本算子性能达硬件极限 90% 以上。
记忆张量开源MemT 1.0系列,含36B激活3B的MemT-1.0-Nano和288B激活17B的MemT-1.0-Flash,在选定Transformer模块中加入与注意力并行的记忆分支,将经验编码为内部动态状态并通过训练学习写入、更新和读取。
Cloudflare 发布文档数据提取模型 Clairic,现已在 Workers AI 上开放预览,开源权重即将推出。用户指定字段如订单号或发票总额后,模型一次性返回匹配值、格式和置信度,缺失值返回 null,还能做简单计算、估算和预测。
Reflection AI 发布开源权重模型 Beam 1.0,面向智能体编码和长程任务,总参数 501B、激活参数 23B,有效上下文长度 100 万 token,权重以 Apache 2.0 许可通过 Hugging Face 发布,提供 BF16、FP8 和 NVFP4 三种 checkpoint。
推荐理由:原文来自 Reflection 与 AWS 团队,给出 Beam 的参数构成和三条部署路径,读者可以据此选择适合自己控制需求的上线方式。
美国 startup Artemis Security 发布安全专用模型 Orion-1,可自主调查并响应企业网络攻击,并在自建基准 Decision-Grade Readiness(DGR)上超过 Claude Opus 5.5 与 GPT-6 Sol。
10月12日,微软基于阿里 Qwen 推出全新决策模型 Microsoft-Decision-1,该模型基于 Qwen3.5-9B 后训练而成,在结构化决策任务中时延和准确性均超过 LLM 及 Jev 1.13.0 等热门决策模型。
智谱在 Zcode 3.15.1 中灰度上线 GLM-5.3-Highspeed 模型,订阅用户随机获得体验资格,有网友晒出 490 tokens/s 的输出速度。
Mistral 发布 Mistral Large 4 预览版,这是一个 1 万亿参数、490 亿激活参数的模型,在自有的 3,800 块 NVIDIA Grace Blackwell GPU 集群上训练,目前通过其 API 提供。
Anthropic 发布快速低价模型 Claude Haiku 5.5,定价与 OpenAI 上月发布的 GPT-6 Luna 一致,为每百万 token 输入 0.10 美元、输出 0.50 美元,超过 100,000 token 后涨至 0.50/2.50 美元。
AWS 宣布 Claude Haiku 5.5 在 Amazon Bedrock 和 Claude Platform on AWS 上线,Anthropic 称其为 Claude 5.5 系列中速度最快、最高效的模型,面向子智能体和高并发、成本敏感场景,多数任务成本比 Claude Haiku 4.5 低约 75%。
推荐理由:AWS 官方给出 Haiku 5.5 的定位、成本变化与 Bedrock 接入方式,便于判断它在多智能体分层中的位置。