AWS 详解 Amazon Bedrock 上 OpenAI 模型的 Agent 提示词缓存模式
AWS 机器学习博客发布教程,讲解在 Amazon Bedrock 上使用 OpenAI 模型(GPT-6 Astra、GPT-6.1 Sol、GPT-5.6 Luna)时如何为 AI 智能体设置提示词缓存,包括隐式模式、显式 prompt_cache_breakpoint、会话中新增工具、子代理预热和 cache key 管理。
AWS 机器学习博客发布教程,讲解在 Amazon Bedrock 上使用 OpenAI 模型(GPT-6 Astra、GPT-6.1 Sol、GPT-5.6 Luna)时如何为 AI 智能体设置提示词缓存,包括隐式模式、显式 prompt_cache_breakpoint、会话中新增工具、子代理预热和 cache key 管理。
AWS 机器学习博客更新了边缘视觉质检 MLOps 方案,迁移到 Amazon SageMaker Python SDK v3,并用 SageMaker Neo 取代已弃用的 Edge Manager 做边缘优化。
AWS 推出 SageMaker AI 多轮强化学习(MTRL),支持将托管在 AgentCore 或自有基础设施上的智能体与被训练的策略模型结合,只需定义结果奖励即可训练多步任务能力。
OpenAI 讲解如何扩展 Habitat 存储系统以服务超过 10 亿 ChatGPT 用户,第二部分聚焦可靠的多租户架构、全局缓存以及 Azure Cosmos DB 的使用。通过这些改造,ChatGPT 的读取速度提升了 12 倍。
Bayer Crop Science 在 Connected Decision Engine 之上构建了多智能体自然语言接口 Agentic Decision Engine(ADE),运行于 Amazon Bedrock AgentCore,采用 LangGraph 编排并在生产环境运行 22 个专家智能体。
AWS Machine Learning Blog 介绍如何用一个可复用的 CDK construct 配合 CloudFormation custom resources,自动在 SageMaker AI 实时端点更新前后注销并重新注册 Application Auto Scaling。
通过在 Amazon SageMaker AI 实时端点上托管 Kokoro-82M TTS 模型,并在智能体每生成一句话时立即流式送入合成,语音回复可在完整响应结束前开始播放,消除数秒的等待间隙。
Amazon Quick 是 AWS 的 HIPAA-eligible 服务,其聊天 Agent 可同时处理临床笔记等非结构化数据与理赔记录等结构化 PHI 数据,并支持通过 Slack、Microsoft Outlook、Salesforce、Atlassian Jira、Microsoft SharePoint 等连接器读取和操作外部系统,还可通过 MCP 添加自定义工具。
Amazon SageMaker AI 推出 serverless training session APIs,将抽象边界从算法下移到算力:用户在本地 Python 中调用 forward_backward()、optim_step()、sample() 等操作编写自己的训练循环,服务端负责 GPU 分配、分布式执行、梯度同步与故障恢复。
AWS 宣布 Amazon SageMaker AI serverless model customization 新增 training sessions 正式发布,用户可自写训练循环(含自定义 loss、reward 函数)而不必管理 GPU 基础设施。
伊比利亚宠物护理公司 IskayPet 基于 Amazon Bedrock Managed Knowledge Bases 构建了企业知识助手,通过原生 SharePoint 连接器复用数百份文档,用混合检索(语义 + BM25)、托管 reranking 和文档级权限控制,在西班牙、葡萄牙、法国三国以四种语言回答员工问题,无需自建 RAG 基础设施。
Microsoft Research 发布 Flint-interactive,一个构建在 Flint 之上的交互式数据可视化语言,让用户和智能体通过高层语义事件与更新算子定义点击、筛选、缩放、跨图表联动等交互。它借助 Flint 编译器处理交互逻辑与视觉依赖,降低布局、渲染和调试成本,可通过 Flint-MCP 和 MCP Apps 在聊天中使用,也提供编程 API 构建仪表盘和数据故事。
AWS 机器学习博客发布教程,将 82M 参数的 Kokoro-82M TTS 模型以自定义容器部署到 Amazon SageMaker AI 实时端点,用 Q_max(单实例 SLO 内并发上限。
NVIDIA 发布 AIOps 平台 Minerva,通过聚合 GPU、网络、存储、调度器和工作负载的遥测数据,为 AI 工厂提供端到端可观测性。平台每小时分析数十亿数据点,构建动态知识图谱,将相关告警归并为单一事件并给出可能的根因,帮助团队从被动维护转向主动维护。
NVIDIA 与欧洲多国政府及合作伙伴合作,用开源模型在医疗、就业、政务等领域推进主权 AI 应用。
NVIDIA 宣布多项技术落地欧洲零售业:Shopify 对 Nemotron 3.5 Lightning 做后训练,内部基准准确率超越领先前沿模型,推理成本降低 90%、响应快 7x;借助 CCluster vLLM 优化,另五个场景实现最高 12x 推理成本降低。
各公司正基于 NVIDIA DSX AI Factory 平台把电网与 AI 工厂作为统一系统进行规划、仿真和运行,以应对电力成为最大基础设施瓶颈的问题——目前美国有超 3000 亿美元设备积压、超 200GW 项目排队并网。
NVIDIA 扩展 Cosmos 平台,新增 Cosmos Data Factory 五个云端蓝图、Cosmos Framework 智能体技能与 Cosmos 3 Nano 仿真模型变体,覆盖物理 AI 数据、训练与部署全流程。
在 GTC Berlin 上,欧洲多家金融机构基于 NVIDIA 加速计算和开放权重模型构建自有智能系统。Revolut 以单一基础模型 PRAGMA 服务 8000 万客户并可扩展 3 倍;bunq 的智能体助手 Finn 在 Nebius 上以相当于顶尖闭源模型 60% 的单次回答成本运行;Starling Bank 成为首家在英国主权云上训练智能体模型的银行。
AWS Solutions Architecture 团队发布 Deep Insight,一个开源的编排式多智能体数据分析系统,并分三篇系列讲解生产化经验。
推荐理由:AWS 团队以开源项目 Deep Insight 为例,逐层拆解多智能体系统落地的五个生产挑战及对应架构方案,附代码与部署细节。
这是一篇配置指南,讲解如何通过 AWS PrivateLink 让 Amazon Quick 在不经过公共互联网的情况下访问本地私有数据源。
AWS 用 Strands Agents 构建了自适应智能体智能框架 AAIF,用本地小模型 llama3.2:1b 做编排决策,把常规任务留在本地运行,复杂请求再路由到 Amazon Bedrock 云端模型。
非营利组织 U.S. Hunger 借助 Amazon Quick 让团队直接探索组织数据,累计配送超过 2.5 亿份餐食,覆盖过 59 个国家。数据通过每日凌晨 2 AM ET 的定时刷新从 SQL Server 同步到 SPICE 内存引擎,组织内 17 位同事获得 Quick 使用权限。
在 AWS trn2.48xlarge(16 个 Trainium2 加速器)上,可通过三种方式用 torchtitan 训练 Qwen3:以 Transformers v5 作为建模后端、切换 torchtitan 原生 Qwen3 实现、以及接入 NKI MoE 内核。
OpenAI 介绍了如何为 ChatGPT 构建 LLM 驱动的广告系统。该系统理解对话意图,将广告与回答分开呈现,并在大规模场景下投放相关广告,以维护用户信任。
NVIDIA 扩展开源的 Agent Toolkit,新增 Agent Knowledge Foundation,帮助企业把公司数据转化为 Agent 可用的智能。
NVIDIA 发布 Confidential Bare Metal 部署选项,让前沿模型构建者在第三方专用基础设施上运行敏感工作负载,同时保有对模型与数据的控制权。
NVIDIA 宣布 CUDA-X 库 cuDSS 正式发布,将工程与科学仿真中求解大型稀疏矩阵的关键步骤迁移到 GPU 上加速。
欧洲工业领袖正借助 NVIDIA CUDA-X、Omniverse 库及 Cosmos 和 Nemotron 开源模型重构工程与制造流程,NVIDIA Factory Operations Blueprint(FOX)现已在 GitHub 开放早期访问。
NVIDIA Cloud Partners 正在欧洲、北欧、非洲和中亚扩展主权 AI 云算力,支持模型训练与推理及智能体应用。
Google Cloud 与 NVIDIA 宣布基于 NVIDIA Vera Rubin 的 A5X 实例正式商用,下月可用并计划扩展至欧洲。
NVIDIA 在 GTC Berlin 展示本地 AI 硬件全线产品:RTX Spark 面向 Windows PC 个人智能体,DGX Spark 支持最多 8 台集群,DGX Station 提供 748GB 一致性内存和 20 petaflops 性能,Windows 版 DGX Station 12 月推出。
推荐理由:原文汇总了 RTX Spark、DGX Spark 和 DGX Station 的本地 AI 硬件阵容与配套软件、模型支持,可据以判断本地智能体部署选项。
NVIDIA CEO 黄仁勋在 GTC Berlin 2026 主题演讲中宣布欧洲 AI 布局与多项新品,称欧洲已开始建设 AI 经济,NVIDIA 在欧洲投入近 100 亿美元、合作超过 12,000 家伙伴。
推荐理由:官方实录覆盖发布、AI 工厂、Agent 安全与机器人平台,读者可以此梳理 NVIDIA 在欧洲的整条布局。
i14 推出线性注意力模型 Laplace 3B,用 Gated Linear Attention 将推理状态固定在每序列 29.5 MB,不随上下文增长。
Octave 在 Amazon Bedrock 上用 Cohere Embed v4 为质量管理 SaaS 平台 Reliance 构建了三层多租户 AI 基础,服务超过 14,000 个客户、覆盖 2 亿多(2 billion)文档。
GPT-OSS-20B 是开源权重推理模型,但即使要求用法语、德语、西班牙语或意大利语思考,它仍默认用英语进行 chain-of-thought,基线在 50 例多语言测试中仅 22% 用目标语言推理。
AWS 展示如何用 Amazon Bedrock AgentCore 作为智能层、Amazon Quick 作为对话界面构建供应链智能方案。该模式通过 MCP 工具层关联 ERP、监控、采购等系统,示例场景中一条中断评估即查出 $750K 风险、23 笔订单、三天库存。传统流程需跨 5 个系统 45–60 分钟,对话方式几分钟内即可完成并触发应急 RFQ,所有操作等待人工批准。
Smartsheet 正式发布 MCP Server,AI 助手可通过标准化协议读取、写入和管理 Smartsheet 数据,涵盖 40 多个工具,支持用自然语言更新任务状态、创建行和修改项目结构。
AWS Agent Registry 是一项用于编目和发现 MCP 服务器、智能体及智能体技能的托管服务,让编排器在运行时通过语义搜索发现工具,而非硬编码。示例通过 Amazon Bedrock AgentCore Gateway 部署订单管理 MCP 服务器和两个 A2A 智能体,演示 Discover → Instantiate → Execute 循环及三个场景。
通过 Amazon Bedrock 跨区域推理(CRIS),OpenAI GPT-5.6(Sol、Terra、Luna)、GPT-6(Astra、Sol、Luna)和 GPT-6.1 Sol 现已可从 Canada (Central) 和 Canada West (Calgary) 两个区域访问。