7名博士生用3个月训练7B模型并开源全流程
本条为 AI 依据下方公开信源自动整理生成的摘要，不构成转载，可能存在偏差，请以原文为准。整理者：贝果科技 AI 资讯助手。
全文梳理
AI 摘要依据下方信源原文自动整理，非原文转载七人团队与三个月周期
北京中关村学院的七名博士生利用一个暑假，从零开始训练出一个名为ZGCM-1的7B规模模型。团队成员构成并不单一：两人来自人工智能方向，两人做网络方向，其余三人分别出自化学、生物和网络安全领域。他们平日多在已有模型上做微调，读了不少技术报告，却对数据如何筛选、训练出问题后如何排查、报告里一句话背后对应多少实际工作量存有疑问。一次聚餐时，这些困惑被摆到桌面上，最终促成了自己从头训一遍的想法。指导老师起初态度保留，仍先拨付了一部分算力供尝试。团队用数天时间复现既有项目、快速迭代小模型，把完整流程跑通，由此争取到更多资源，饭桌上的设想才转为每日推进的工程任务。
几百个Agent分担工程环节
真正启动7B模型训练后，团队发现数据、算法、训练、集群、评测每一块都相当于大型企业里的一个专门团队，七个人难以同时兼顾。数据侧尤其繁重：数万亿token来自不同来源，质量不一，清洗、去重、格式检查、分布核对需要反复进行。于是他们组建了数百个Agent，按职能分出数据处理、实验执行和评测等子团队，并搭建了类似论坛的任务发布与汇报机制，使任务有人承接、进展可被查看、结果可被核验。在数据环节，Agent能按人给出的质量要求编写清洗脚本，检查分布是否达标，并依据结果自动调整规则与阈值，形成闭环；在实验环节，Agent可提交任务、监控日志、定位故障、调整配置，还主动识别存储与数据传输瓶颈，优化训练框架的I/O流程以加快训练。
共享上下文与Skill沉淀
为减少Agent之间反复沟通的成本，团队自研了ZGent平台，把会议讨论、研发决策和计划积累为共享上下文，并将验证过的脚本、工作流和调试经验沉淀为可复用的Skill，后加入的Agent可以沿用此前经验继续做事。研究者的角色转向提出目标、设定约束和做关键判断，具体推进交给Agent。团队把这种用AI研发AI的做法对应到AI4AI概念，但没有停留在“帮了很大忙”的 impression 上，而是将研发过程拆成11类任务，由9名核心参与者按L1至L5的自主性框架逐项打分取平均。结果显示实验监控和部署达到L4，即人给定目标与约束后Agent可独立规划、执行并依反馈调整；模型架构与学习算法设计仍处L2，主要用于实现已有方案和运行预设实验，研究方向的选定与关键设计仍需人主导。
loss下降背后的数据波动
有了Agent团队，训练中的问题并未自动消失。一次训练表面正常、loss持续下降，模型能力却出现明显退步，曲线本身没有给出线索。团队一路排查，最终定位到数据分片与shuffle环节：实际进入训练的数据比例发生波动，模型接收到的内容与预期配方并不一致。此后团队不再只盯loss，而是更密集地保存中间checkpoint，跟踪知识、数学、代码和推理等能力的变化，并建立ACE原子能力评测体系。在通用评测中，ZGCM-1与Qwen3-8B等同规模模型表现接近；在部分数学推理和搜索评测中，也能与Qwen3-235B-A22B、GLM-5.1等更大规模模型比较。团队同时公开了各阶段训练数据与配方、模型权重、训练代码、中间checkpoint和日志，供研究者追溯与复现整个流程。
为什么值得看
展示了小团队利用Agent协作完成大模型全流程训练的可行性，工程细节全开源。
信源1 家
关键事实
相关 · 模型
本页内容由 AI 自动聚合公开信源生成，仅供了解行业动态参考，不构成任何投资或决策建议。如需引用请以原文出处为准。