Amazon SageMaker AI 上的 MoE 内核工程优化解析
AWS 团队分享了针对融合 MoE 模型的内核工程优化,包括利用 Swap-AB 在 NVIDIA Hopper 架构上满足 WGMMA 指令 M≥64 的形状要求,在 H200 上带来 2–4% 的端到端吞吐提升,并已上游合入 vLLM 0.24.0 及以上版本。
AWS 团队分享了针对融合 MoE 模型的内核工程优化,包括利用 Swap-AB 在 NVIDIA Hopper 架构上满足 WGMMA 指令 M≥64 的形状要求,在 H200 上带来 2–4% 的端到端吞吐提升,并已上游合入 vLLM 0.24.0 及以上版本。
AWS 博客介绍 Grok 4.7 登陆 Amazon Bedrock,并通过三个需搜索而非查询的任务评测其 reasoning effort 档位。
ShipStation Global 基于 Amazon Bedrock AgentCore 构建了面向 Slack 的 AI IT 帮助台 Deckhand,可在频道内直接回答常规 IT 问题、读取报错截图并创建和更新 Jira Service Management 工单。
Orca Security 与 AWS 合作,基于 Amazon Bedrock 构建了 Discovery AI,一个将自然语言问题转换为 Sonar 查询的智能体,覆盖 Sonar 追踪的 900+ 云资源模型。
AWS 推出 Amazon Bedrock 托管授权(managed entitlements),组织可从中心账户一次性订阅第三方模型的 AWS Marketplace Private Pricing Offer(MPPO),再向多账户分发访问。
Anchor Browser 与 Amazon Bedrock AgentCore payments 集成,让 AI 智能体在遇到 HTTP 402 Payment Required 响应时,可通过 x402 协议自动授权并完成付费 API、MCP 服务器和网页内容的支付,工作流不中断。
Postman 披露其 Agent Mode 在 Amazon Bedrock 上的生产架构:通过向量数据库将 170 多个工具动态收窄至约 15 个,并交给上下文隔离的子智能体执行。团队发现可见工具超过约 40 个后工具选择错误率上升,因此把上下文而非能力视为主要瓶颈,同时用 Amazon Bedrock Guardrails 在进入 LLM 前脱敏个人信息。
LegalOn 将每日 Codex 预估成本削减 65%,同时保持开发速度。其做法是按任务匹配 Astra、Sol 和 Luna,并对预算进行策略性管理。
AWS 发布基于 Amazon SageMaker HyperPod 与 EKS 的多租户参考架构,让多个团队共享同一 GPU 集群。
基于 Amazon Bedrock AgentCore、Amazon Nova 2.5 Sonic 和 Amazon Bedrock Knowledge Bases,可搭建一套语音旅行助手,让旅客通过语音查询行程、改座位、更新餐食偏好并转接人工客服。
AWS 介绍如何通过 SageMaker Unified Studio 管理 SageMaker HyperPod 集群,同时保留底层治理控制。文章提出组织、项目、集群、工作负载四层控制模型,并说明如何跨层设计身份、容量与可观测性策略,让基础设施团队继续掌管集群运维,ML 团队在项目环境中使用已批准的算力。
AWS 发文解读国际标准 ISO/IEC 42005:2025,说明其如何指导企业将 AI 系统影响评估整合进整体治理与风险管理体系。该标准覆盖评估全生命周期,并提供 Annex D 简化流程与 Annex E 独立模板,用于确定评估时机、范围与重新评估触发条件。
Amazon Quick 与 Amazon Bedrock Knowledge Bases 在原有预检索 ACL 过滤之上新增实时 ACL 校验,在查询时直接向权威数据源核实权限,避免依赖可能过期或映射错误的 ACL 数据。
AWS 提出 Agentic Value Model,用于替代 RPA 时代的 ROI 模型,从时间节省、异常处理、决策质量、变更韧性与维护经济性四个维度衡量 agentic automation 的价值。
Qlik 基于 Amazon Bedrock 打造 Qlik Answers,为全球超 4 万名客户提供可溯源的企业级问答。其 Discovery Agent 上线以来已为客户发现超 10 万条异常与离群点,多数启用智能体工具的 Qlik Cloud 账户已在日常使用。
AWS 展示了一套自动化修复工作流,用 Amazon EventBridge 接收 AWS DevOps Agent 的调查完成事件,再由 AWS Lambda Durable Functions 调用 Amazon Bedrock 分析根因并从预批准的 Lambda 工具白名单中提出修复方案。
AWS 设计了一个为期六周、每周约四小时的结构化项目,让非工程背景的业务人员用 Amazon Bedrock AgentCore、Strands Agents SDK 等工具构建可用的 AI 原型。
Cornerstone OnDemand 基于 Amazon Bedrock 和 Strands Agents 构建多智能体系统 Orion AI,将数据库诊断时间从 45 分钟降至 10 分钟,减少 78%。该系统还把手动生命周期操作从 10 多个步骤压缩为 1 次交互,并将冗余告警中位数削减 65%,由三人团队在六个月内完成交付。
AWS 官方博客介绍如何在 Amazon Bedrock AgentCore runtime 上运行开源智能体系统 OpenClaw,构建带长期记忆的上下文感知助手。
GitHub 提出 AI 时代开发者应强化的三项技能:学会指挥 AI 智能体而非仅使用它、不轻信 AI 的首次答案、用 AI 节省的时间去解决更大问题。文中以 GitHub Copilot 内置的 Rubber Duck agent 为例,说明用第二个模型审查计划、代码和测试能发现首个模型遗漏的问题。
GitHub Copilot 应用中的 canvas 是一种可自定义的共享界面,用户只需在 agent 会话中输入 /create-canvas 并用自然语言描述需求,即可生成看板、发布清单或仪表盘等界面,无需编写代码。canvas 支持双向协作,agent 与用户可同时更新同一界面状态,创建后还能保存为扩展供团队共享或个人复用。
GitHub Copilot 应用重建了 pull request 视图,以流畅渲染超大 diff 与评论。团队用一份含 2,200 个文件、超 100 万行改动、400 多条行内评论的开源 pull request 做验证。方案将文档高度拆成确定性的代码几何与惰性测量的动态块几何两部分,避免评论高度未知导致的滚动跳动。