← 新闻动态
技术复盘

本地语音链路实测:唤醒到播报的 780 毫秒是怎么省出来的

从 2.1 秒压到 780 毫秒,我们没有换模型,只是把四段流水线里的等待时间一个个抠掉了。

AI 基础设施VoiceLink 团队2026.09.30836 次阅读

基线

初始链路:唤醒 → 录音结束检测 → ASR → 模型 → TTS → 播报,端到端 2.1 秒。用户感知上"像在等一个网络请求"。

四个优化点

1. 流式 ASR 提前介入。 不等录音结束,边说边识别,省掉 400ms 的尾等待。

2. TTS 分句合成。 首句生成完立刻播报,后续句子在播放间隙合成,感知时延再降 300ms。

3. 唤醒词与 ASR 共用特征。 两者都基于同一套前端特征提取,避免重复计算,省 120ms。

4. 意图预判。 高频意图(时间、天气、日程)在 ASR 结果稳定前就预取,命中率 34%。

结果

端到端 780ms,其中模型推理仅占 210ms —— 瓶颈从来不在模型,而在流水线的缝隙里。

#语音#性能#时延