全双工语音模型精读⑪:流式视频理解 VLM 全景——从音频全双工到'边看边想边开口'
> 本文基于开源文献地图仓库 Awesome-VLM-Streaming-Videohttps://github.com/ydyhello/Awesome-VLM-Streaming-Video(京东探索研究院维护)做一次领域全景梳理。它汇集了 2024–2026 年"流式/在线视频理解"方
> 本文基于开源文献地图仓库 Awesome-VLM-Streaming-Videohttps://github.com/ydyhello/Awesome-VLM-Streaming-Video(京东探索研究院维护)做一次领域全景梳理。它汇集了 2024–2026 年"流式/在线视频理解"方
全双工语音模型精读⑩:Qwen3.8-Omni——Thinker-Talker 长程 Agent、1M 上下文与流式实时全双工 > 「全双工」到这里,追问的不再是"能不能实时对话",而是"能不能一边说话、一边计划、一边调工具、一边把几小时的长视频干完"。 这是「全双工语音模型精读」系列的第
> 全双工语音模型系列精读第 1 篇。本文基于 Moshi 官方论文 arXiv:2410.00037v2 与开源代码,梳理其设计动机、架构与评测。配套总览见《全双工语音大模型全景调研》。 一、为什么它是"鼻祖" 在 Moshi 之前(2024 年 9 月之前),所有语音助手都是级联流
> 全双工语音模型系列精读第 2 篇。本文基于 Freeze-Omni 论文 arXiv:2411.00774v5 与官方项目页,梳理其"冻结骨干"路线。配套总览见《全双工语音大模型全景调研》。 一、它要解决的痛点:语音数据太少,微调会"变傻" GPT-4o 展示端到端语音交互后,2024
> 全双工语音模型系列精读第 3 篇。本文基于 GLM-4-Voice 技术报告 arXiv:2412.02612 与官方开源仓库,梳理其端侧中文实时语音方案。配套总览见《全双工语音大模型全景调研》。 一、定位:要"像人"、要实时、还要能本地跑 GLM-4-Voice(智谱 AI,Zeng
> 全双工语音模型系列精读第 4 篇。本文基于 Qwen3-Omni 技术报告 arXiv:2509.17765 与官方开源仓库,梳理其 Thinker-Talker MoE 架构。配套总览见《全双工语音大模型全景调研》;下一代 Qwen3.5-Omni 见该文第五节。 一、定位:首个"全模
> 全双工语音模型系列精读第 5 篇。本文逐节解读《Omni Interaction Agent Technical Report》(Gander,arXiv:2609.08977v2,2026 年 9 月 9 日)。该研究由腾讯混元语音团队(Hunyuan Speech Team, Tence
> 全双工语音模型系列精读第 6 篇。本文基于 Qwen 官方博客《Qwen3.5-Omni: Scaling Up, Toward Native Omni-Modal AGI》(2026-03-30)与阿里云百炼 Realtime API 文档。配套总览见《全双工语音大模型全景调研》;上一代 Qw
> 全双工语音模型系列精读第 7 篇。本文基于 OpenAI 官方博客与官方帮助文档,梳理 OpenAI 语音线两代产品:gpt-realtime(2025-08-28 GA)与 GPT-Live(2026-07-08)。配套总览见《全双工语音大模型全景调研》。 一、OpenAI 语音线的两
> 全双工语音模型系列精读第 8 篇。本文基于 Google 官方 Gemini API 文档(Live API)梳理其原生多模态全双工方案。配套总览见《全双工语音大模型全景调研》。 一、定位:把"视觉在环"做成 Live API 标配 Gemini Live API 是 Google 面
> 全双工语音模型系列精读第 9 篇。本文基于字节 Seed 官方页面与火山引擎 API 文档,梳理字节语音全双工两步走:纯语音的 Seeduplex(2026.4)与音视频原生的 SeedRealtime(2026.8)。配套总览见《全双工语音大模型全景调研》。 一、字节的两步走 字节在
> 本文所有大厂模型数据均来自其官方博客、官方技术文档或 arXiv 论文,文末附一手来源链接。第三方实测数据单独标注。截至 2026 年 9 月 10 日。 一、先统一概念:全双工不是 0/1 开关 "全双工"(Full-duplex)来自通信领域:双方可以同时收发信号。对照三档: -
> 2026 年 8 月 5 日,字节跳动 Seed 团队发布原生音视频全双工大模型 SeedRealtime,并在豆包 App 全量上线——官方称这是"业界音视频全双工技术的首次规模化落地"。它的定位不是"会说话的 Chatbot",而是"边看、边听、边说":模型持续看着摄像头画面、听着环