注册

QECGBERT：按心电波形分段做 VQ-VAE 分词的心电基础模型

论文AI 评分 66/100arXiv cs.AI
AI 聚合

本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。

研究提出 QECGBERT，一种自监督心电语言模型。它先把 12 导联心电按 P 波、QRS 波群、T 波与等电位背景分段，再用 VQ-VAE 对每段做离散分词，并为 token 附加连续波形特征，以保留量化过程中丢失的形态信息，同时不拉长序列。这样就能用短序列做 BERT 掩码语言建模，相比长序列方案更易扩展、算力开销更低。模型在 MIMIC-IV 的 80 万余条无标注心电记录上预训练，再在 PTB-XL、CPSC2018、Chapman–Shaoxing–Ningbo 三个标注数据集上微调评测，结果与已发表基准相当或更优。

全文梳理

AI 摘要依据下方信源原文自动整理，非原文转载

针对什么问题

心电数据里带标注的样本稀缺，罕见心脏病的标注尤其不足，因此自监督预训练成为常见做法。但多数自监督方法把心电视作普通序列或图像，没有利用心电本身的生理结构。QECGBERT 的出发点就是把这种结构显式写进建模流程：心电并非均匀的信号流，而是由若干具有明确生理含义的波形段组成，按段处理比整段序列更贴近数据本身。作者来自 Aruna Mohan、Burcu Ozek、Or Zilbershot、Fatemeh Afghah。

分词与建模方式

模型对每条 12 导联心电先切出 P 波、QRS 波群、T 波以及等电位背景这几类波形，再对每一段施加 VQ-VAE 量化，得到离散 token。量化会损失波形细节，因此每个 token 还额外携带连续波形特征，用来补回形态信息。这一设计的关键在于不增加序列长度：序列仍然很短，于是可以直接套用 BERT 的掩码语言建模做预训练，扩展性更好，算力开销也低于处理长序列的方案。

训练数据与评测结果

预训练阶段使用 MIMIC-IV 中超过 80 万条无标注心电记录，随后在 PTB-XL、CPSC2018、Chapman–Shaoxing–Ningbo 三个带标注数据集上微调并评测。论文给出的结论是，性能与已发表基准相当或更优，说明按生理波形分词加短序列 BERT 预训练这条路可行。作者将其定位为一种可扩展、具备生理感知能力的心电基础建模方法，面向心脏疾病诊断场景。

发表状态

该工作已投稿 IEEE，并提交至 IEEE ICASSP 2027，版权可能在未通知的情况下转移，届时这一版本或不再可访问。论文编号为 arXiv:2610.33964，提交时间为 2026 年 10 月 25 日，归类于 cs.LG 与 cs.AI。材料未披露参数量、具体性能数值与代码开放情况。

为什么值得看

把心电按生理波形切分后再分词，为心电基础模型提供了一条低成本、可扩展的自监督路线，值得做医疗时序建模的读者一看。

微调量化算力论文数据集

信源1 家

  1. [1]arXiv cs.AI一手信源QECGBERT: A Scalable ECG Foundation Model Based on Self-Supervised Language Learning via VQ-VAE Waveform Tokenization

关键事实

  • 方法按 P 波、QRS 波群、T 波与等电位背景波形对 12 导联心电分段，再逐段做 VQ-VAE 分词[1]

  • token 附带连续波形特征，用于保留量化时丢失的形态信息，且不增加序列长度[1]

  • 预训练使用 MIMIC-IV 中 80 万余条无标注心电记录[1]

  • 微调评测使用 PTB-XL、CPSC2018、Chapman–Shaoxing–Ningbo 三个标注数据集[1]

  • 结果与已发表基准相比达到相当或更优水平，论文投稿 IEEE ICASSP 2027[1]

相关 · 论文

北大孙仲联合IBM等发布综述，重新定义现代模拟计算

11月3日 周二·AI 72

OpenAI 自 GPT-5.6 起部署激活分类器监控模型输出

11月3日 周二·AI 78

OpenAI 推出 LifeVal 基准，衡量 AI 完成日常事务的能力

11月2日 周一·AI 72

清华姚期智团队提出代数世界模型AWM，ARC-AGI-3全关卡通关

11月1日 周日·AI 78

本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。

去论坛讨论