Cartesia 如何在 AWS 上构建超低延迟语音 AI 应用
AWS 合作伙伴 Cartesia 基于专用 State Space Model(SSM)架构与 AWS 基础设施,提供 sub-100ms 延迟的语音生成与转写。其核心模型包括流式 TTS 模型 Sonic(首个音频字节约 90ms,支持超 44 种语言、10 秒音频样本声音克隆)和流式语音转文本模型 Ink(原生轮次检测、边说边出部分转写)。两者组合可构建接近人类对话体验的语音 AI 应用。
AWS 合作伙伴 Cartesia 基于专用 State Space Model(SSM)架构与 AWS 基础设施,提供 sub-100ms 延迟的语音生成与转写。其核心模型包括流式 TTS 模型 Sonic(首个音频字节约 90ms,支持超 44 种语言、10 秒音频样本声音克隆)和流式语音转文本模型 Ink(原生轮次检测、边说边出部分转写)。两者组合可构建接近人类对话体验的语音 AI 应用。
NVIDIA 官宣 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 的 RTX Spark 轻薄笔记本上市,起价 $2,599,超芯片集成 Blackwell RTX GPU 与 Grace CPU,最高 128GB 统一内存、1 petaflop FP4 AI 性能。
推荐理由:原文汇总了 RTX Spark 笔记本新品与语音模型、GPU 资源分配等本地 AI 更新,读者可借此了解端侧模型落地的最新入口。
Retell AI 使用 OpenAI 模型支撑其每月 1 亿次语音通话。GPT-6 Astra 在 Retell 的语音智能体基准测试中位居第一,Codex 则帮助公司实现人均 160 万美元的年化收入运行率。
通过在 Amazon SageMaker AI 实时端点上托管 Kokoro-82M TTS 模型,并在智能体每生成一句话时立即流式送入合成,语音回复可在完整响应结束前开始播放,消除数秒的等待间隙。
Amazon Polly Generative engine 完成升级,语音输出更自然、准确且低延迟,已正式可用。此次升级新增 9 个 locale 的 14 种声音,并首次提供印地语和芬兰语的 Generative 语音,整体达 11 种语言、25 个 locale 共 57 种语音,并扩展至 AWS GovCloud (US-West) 共 11 个 AWS Region。
AWS 机器学习博客发布教程,将 82M 参数的 Kokoro-82M TTS 模型以自定义容器部署到 Amazon SageMaker AI 实时端点,用 Q_max(单实例 SLO 内并发上限。
Deepgram 与 AWS 合作,将其 Nova-3 语音转文字模型移植到 AWS Trainium2,用于呼叫中心分析、医疗转录等离线批处理工作负载。最终配置在单台 Amazon EC2 trn2.3xlarge 实例上运行 8 个模型副本,按当时实例价格计算,每美元处理的音频量比原有计算方案多 11–70%。
Higgsfield 推出基于 GPT-6 Astra 的长视频能力,将 AI 视频时长从 1 分钟延长至 10 分钟以上。新方案还集成 GPT-Image-2.5 实现更精准的视觉呈现,并通过 GPT-Live 提供语音电影制作路径。
基于 Amazon Bedrock AgentCore、Amazon Nova 2.5 Sonic 和 Amazon Bedrock Knowledge Bases,可搭建一套语音旅行助手,让旅客通过语音查询行程、改座位、更新餐食偏好并转接人工客服。
Google DeepMind 发布 Gemini 3.8 Live with Live Avatar,在原生实时对话模型上加入近实时视频生成,实现带口型同步、自然表情和流畅轮次的视觉化对话。
推荐理由:官方给出 Live Avatar 的实时音视频耦合、异步工具调用与 97 语言同步能力,可据此判断企业级对话智能体的形态变化。
Google DeepMind 推出 Gemini 3.8 Flash TTS 和 Gemini 3.8 Flash-Lite TTS 两款语音生成模型,前者面向角色设计与逐行表演指导,后者面向高并发配音和语音智能体。
推荐理由:官方给出两款 TTS 的定位差异、可用入口与基准排名,便于判断语音生成在创作与规模化场景中的分工。
Google DeepMind 发布 Gemini 3.8 Live 和 Gemini 3.8 Live Extended Thinking 两款实时对话模型,前者面向规模化与成本效率,后者面向高复杂度任务与多步推理。
推荐理由:官方给出两款语音模型的定位差异与多项语音基准成绩,可据此判断实时语音智能体的能力边界。