使用 vLLM-Omni 在 SageMaker AI 构建实时语音应用——第1部分

本文介绍如何使用 AWS vLLM-Omni 容器在 Amazon SageMaker AI 上部署 Qwen3-TTS 模型，实现文本到语音的流式输出。该方案利用 SageMaker 双向流式技术，通过持久的 HTTP/2 WebSocket 连接实现一边生成文本一边播放音频的低延迟交互。