OpenAI 详解 GPT-Live 架构如何实现了连续的有状态语音交互

OpenAI近日发布GPT-Live工程报告，详述其连续有状态语音交互系统的架构设计。该系统将延迟敏感的媒体处理与推理循环置于实时路径，而任务委托、工具使用、数据持久化等应用逻辑则通过异步RPC边界分离，以确保对话响应性不受外部服务波动影响。系统采用每会话专用的有状态推理机制，实例预留计算资源，当资源耗尽或达上下文限制时，会话上下文可迁移至其他实例，兼顾扩展性与故障恢复。媒体传输仍基于WebRTC，并引入WARP协议优化与即时连接机制降低启动延迟。正式上线前，OpenAI进行了静默测试，处理真实入站语音流量但丢弃输出，以验证系统负载表现。该测试发现了合成测试未覆盖的异常，如部分地区GPU与CPU机房分离导致延迟。OpenAI实时AI负责人Justin Uberti接受采访，表示简化WebRTC握手比替换传输层风险更低，且现有应用无需改动即可受益。