基线
初始链路:唤醒 → 录音结束检测 → ASR → 模型 → TTS → 播报,端到端 2.1 秒。用户感知上"像在等一个网络请求"。
四个优化点
1. 流式 ASR 提前介入。 不等录音结束,边说边识别,省掉 400ms 的尾等待。
2. TTS 分句合成。 首句生成完立刻播报,后续句子在播放间隙合成,感知时延再降 300ms。
3. 唤醒词与 ASR 共用特征。 两者都基于同一套前端特征提取,避免重复计算,省 120ms。
4. 意图预判。 高频意图(时间、天气、日程)在 ASR 结果稳定前就预取,命中率 34%。
结果
端到端 780ms,其中模型推理仅占 210ms —— 瓶颈从来不在模型,而在流水线的缝隙里。
#语音#性能#时延