


视频基模数据质量标准及管理
为视频生成模型训练制定审美标准、筛选数据、分析底库,形成大规模数据美学质量筛选方法。 将设计师的感性判断与大众审美认知相结合,转化为业务驱动的、大规模可复现的量化工程标准。
全文约 4,500 字 阅读约 9 分钟
两个看板是这套标准的落地载体:底库分析看板管数据捞取与打标,美学标准看板管标准定义与标注执行,入口见页首。下面从数据寻源讲起,正文逐步展开。
为什么需要数据美学质量筛选
微信内容创作场景广泛,现有模型无法完全满足需求,需要自研视频生成模型。此前已有图片评分标准,但视频增加了运动、运镜、节奏等动态维度,无法直接复用,且标准随技术迭代正在快速持续变化,而数据在模型训练中的重要性日益提升,业内没有现成成熟的方案可完全依据。
前期调研围绕四个方向展开。
- 竞品分析拆解各家模型的原子能力,明确需纳入标准的质量维度。
- 学术调研研究计算机学科及美学、电影学等相关理论,为标准制定提供跨学科参考。
- 用户与场景调研分析 7 个平台 2780 条用户 Prompt 及广告、社交、特效等落地场景,不同场景对质量的定义差异显著,直接决定了分类体系的架构。
- 底库分析统计已有训练数据的来源分布与内容类型,发现东亚人像、生活化动态、高清动画存在结构性短缺。
整个质量模型的训练工作可以概括为一条链路。从调研定义标准,到标注建成天梯,到训练出模型,再到模型反哺全量数据。
调研发现标准建设面临多重难点,缺乏统一的可量化标准,不同团队的规模、标注能力、人力配置差异大,方法无法直接复制。本项目团队人员少、供应商不够细分、专业人员有限,需要找到适合自身条件的方案,因此从零搭建数据筛选体系。我参与了美学评分标准的两个版本迭代、数据采集与标注管线、底库分析与可视化看板建设。数据筛选不仅依赖美学质量评估,还依赖视频能力打标,前者判断素材是否合格,后者决定素材适合训练何种能力。

图 1 底库看板整页,数据池浏览与 AI 标注,素材为脱敏假数据
以质量模型替代人工筛选
底库约 0.1b 条视频,是非常早期收集的结果,我接手后补充了约四分之三的存量,最终规模约 0.18b,是为搭建质量模型而全量评估筛选的总体接触数据量,并非最终训练数据本身。人力逐条打分在视频量级不可行。总体方法是训练一个质量模型,以模型替代人工完成全量筛选。
质量模型需要标注数据作为训练来源,即质量分级天梯,构建分五步。
- 分类为比较划定赛道;
- 采样得到结构均衡的大数据集;
- 定标为不同类别定制既有统一又有差异的评分标准;
- Elo 标注以两两对比方式标注采样数据;
- 成梯使每段视频经大量对决得到稳定 Elo 分,按分数排列成梯。
用天梯数据训练质量模型,质检验收后过一遍完整底库,完成全量筛选,底库进入预训练。天梯可复用,后训练阶段可直接在天梯头部采样,无需重新标注;也可随时新增细分类别,插入新样本后重排。
链接:数据天梯(关联看板入口), 请在底库分析看板的「数据天梯」标签页查看
代价与收益并存。Elo 前期标注成本高于直接打分,天梯为相对排序,分级不如绝对值清晰;显著问题视频难以完全依赖天梯,仍需人工到管线筛选 badcase。收益是规避人类主观难以总结的内容,标注员仅需二选一,培训门槛低。VLM 排除动态内容后可承担部分 Elo 画面辨别,但仅适用于细分场景,通用判断与细分维度仍困难。
从底库直接捞取数据
视频与图片本质不同。图片可按单张截取,视频单独采集、清洗、切割耗时耗力且难以批量操作。因此放弃定向采集,直接从已建设好的底库选取。约 0.18b 条经过管线处理的视频片段构成现成候选池,主要来源包括开源视频集、影视剧集、人像数据集、高清综合视频、竖屏短剧与多类型平台内容,数据源合计 30 余个。
链接:底库分析看板
搭建底库数据捞取看板,将捞取流程可视化、可交互。数据源大盘展示 30 余个数据源卡片,含库存量、占比与排名,并以环形图总览。按源抽样可随机抽取 N 条在线预览,展示标题、描述、时长与分辨率。AI 分类边捞边标,由 VLM 自动打标。Pool 管理支持候选集导出,衔接标注流程。第一轮抽取 2 万条,真实横屏有人与真实无人各 1 万;第二轮扩展至 4 万条、4 个类别,按数据源分布控制配额,优先保证高质量来源的份额。
七类互斥分类划定赛道
不同类别视频可比性低。3D 动画与真人实拍、横屏电影与竖屏 Vlog 的美学维度完全不同,直接两两对比只会产生噪声。分类的目的即为 Elo 标注划定同类别可比的赛道。
按使用场景分类不可行,场景严重重叠,工作量巨大。改用从世界媒体资源类别入手,参考影视分类体系做类别穷举,再按可接受的工作量与业务需求收敛为 7 大类,原则是类内可比、类间互斥。
结构上有人与无人分在真实内部,有人视频占据底库大比例,也是微信使用场景的最大需求;动画分二维与三维,评价维度不同;图层与特效单独成类,难与其他类比较但占比可观,单独分出后可原样复用对应训练能力。为确保互斥穷尽,定义三个正交维度,真实度、空间性、主体显著性。分类由模型完成,撰写长 Prompt 定义分类语义、短 Prompt 输出结构化 JSON,经实验对比选用 Qwen3-VL-30B 对全量底库自动打标。
上一节确立了筛选方法与分类赛道。本节把天梯构建中的定标与标注展开为可执行的标准与标注系统,先定义评分标准,再以两两对比执行标注,经培训、错题集与质检保证标注质量,最后由专业设计师校准权重。这些环节与筛选同属一个目标,为质量模型积累高可信的天梯数据。

图 2 维度顶栏,各维度可展开子指标
美学标准的两代迭代
分类划定比较赛道,美学标准定义比较维度。标准设计遵循三条原则。
- 维度互斥,构图与光影互不涵盖;
- 指标可快速判断,标注面对 5 到 10 秒视频与一次二选一;
- 评分规则避免模糊词,比如判断高光是否过曝,而不是画面是否美观。
标准经历两代迭代。V1 维度复杂、描述模糊,大维度 5 个,主体动态与镜头动态边界不清,标注员难分一般与良好。V2 精简为 4 档 4 维,评判哲学从有没有问题转为训练价值高不高,不评判创作意图,只看客观画面是否与内容契合,排除类型和手法干扰。V2 增加子指标与参考锚点,标注一致性提升约 15%。
7 个分类绑定 3 套标准,框架统一,子指标随类别调整,对照如下。
| 维度 | 真人影视 | 动画 2D / 3D | 图层叠加 |
|---|---|---|---|
| 基础画质 | 清晰度 噪点 压缩 曝光 | 线条清晰闭合 / 材质纹理无瑕疵 | 合成画面清晰干净 |
| 审美表现 | 构图 色彩 光影 氛围 | 风格质感与视觉精致度 | 装饰美观度与匹配度 |
| 运动质量 | 流畅度 运镜 动态丰富度 | 流畅度 动态丰富度 / 镜头运动 | 图层动效与节奏 |
| 表演表现 | 表情 动作 情绪传达 | 绘制表现力 / 面部绑定与身体动画 | 无 |

图 3 美学标准看板整页,分类、维度、档位三级浏览
每个维度的设计围绕四个问题。
- 技术底线,低画质数据会拉低模型上限;
- 美学表现,画面美感决定模型上限;
- 运动学习价值,是视频区别于图片的核心;
- 人物表演价值,表情动作是否自然丰富。
以基础画质为例,该维度只评客观技术指标,模糊、噪点、压缩会让模型学到糊的习惯;刻意保留的胶片颗粒不扣分,因其是电影质感的一部分。4 档分级为优秀、良好、一般、差,分别对应可直接训练、需少量筛选、需人工判断、不适合训练,参考锚点从电影级摄影到严重压缩网络视频逐级下降。运动质量的边界同样需要举例,手持轻微抖动不判为运镜差,纪录片风格的手持是正常表达;固定机位搭配丰富动作也不判为运动质量差,评价只看运动信息是否有学习价值。
美学标准看板是标准的可视化落地。V1 结构复杂、维度过细,团队与供应商难以快速理解。V2 重新设计为分类侧边栏、维度顶栏、档位泳道的三级浏览:侧边栏先定位类别,支持大类到二级展开;顶栏展示各维度,可展开子指标;档位横向平铺,每档挂载参考案例,二选一时直接对照档位描述。设计语言为微信绿点缀的极简灰白风格,剥离一切干扰。看板同时承担定标与供应商培训教材的双重职能。

图 4 数据天梯,人类 / 模型双排序、档位与维度权重

图 5 天梯设置,档位总数、视图模式与列数行数

图 6 分类筛选,类别多选

图 7 分类侧栏,大类到二级展开

图 8 数据版本切换 V1 与 V2
Elo 两两对比标注
绝对值打分存在两个问题,标注员对 4 分的理解因人而异,分数不可比;打分无需理由,可随手乱点。内部测试中,8 名外包同学与 2 名设计师分别给同一批数据打分,两两对比所得排名的一致性更高。两两对比将判断简化为一次二选一,结果天然带排序关系。
Elo 算法基于国际象棋评级,每段视频初始 1200 分。按双方分数计算胜率预期,分差 400 分时高分方胜率约 91%;标注选择胜负平后,新分等于老分加 K 乘 1 减预期胜率,K 取 32,冷启动快速收敛。随机配对 10000 个视频需近 5000 万场比较,成本不可接受。三阶配对将其压缩至约 5 万次。
- 探测新手优先找出未充分评估的视频;
- 全局粗调把老兵按分数均分 5 段位,随机对阵新手二分定位真实段位;
- 局部精调让老兵仅与排名正负 200 内对手较量,并用信息增益过滤,预期胜率落在 15% 到 85% 之间才出题。
隔离规则要求同类别、同维度比较,保证判断标准单一。第一批覆盖 2 类乘 5 维约 55 万次标注,第二批扩至 4 类。
供应商培训与错题集
标注由外包供应商执行,培训三件套。
- 标准看板按类别逐维讲解定义与档位;
- 培训指南与录屏按类别录制,标注前必看;
- FAQ 答疑是持续更新的错题集,实时沉淀标注员的困惑。
标注员带题目 ID 与截图提问,设计师逐条回答,典型问答按维度归档,形成可检索的错题集,结构为维度、题目 ID、问题描述、截图、答案、要点。典型条目直接暴露标准模糊地带,单纯静态图片在任何维度最差,缩放平移的简单动态按静态图处理,后期添加动态图层的按视频正常评价;确实相当则给平局,有细微倾向需给出倾向;有光不等于光影设计,光须经过设计才有美学价值。这些问答直接推动标准迭代。
质检 决策梯度与权重校准
质检不逐题对答案,而是利用 Elo 对手排位流程定位问题。每条素材在天梯中有稳定分数与完整对手记录,当标注员的判断与素材真实水平长期背离,把高分素材判给低分方,或对同组素材给出自相矛盾的排序,其对手排位结果会显著偏离多数人共识,被自动标记为存疑。完全错误案例由此暴露,说明存在系统性理解偏差而非偶发失误,这些案例归档为错题,反哺标准迭代与培训优化。
判断分配遵循决策梯度。
- 画质崩坏等可直接 VLM 判断的问题交 VLM 批量处理;
- VLM 不能决策的交人工标注;
- 标准覆盖不到的归为场景与分类问题,触发新细分垂类迭代。
天梯建立后,各维度权重无先验答案,真人影视的表演维度权重应高于动画,无人空镜的动态维度权重更高。做法是抽样交付专业设计师,用 Elo 做全局两两对比得到人工排序,再经一致性拟合反推各维度贡献权重,提交算法团队作为质量模型打分权重。

图 9 抽样配置面板,30 余个数据源库存量与配额控制
爬取与管线处理
数据来源由 爬取中台提单,经 文件存储、管线处理、数据入库。管线处理包含场景切割与字幕去除。我参与了爬取提单流程规范化,形成 SOP,并持续追踪管线 Badcase。
- 字幕残留影响训练效果;
- 场景切割不准导致片段不完整;
- 色差来自来源色彩空间不一致,需要统一校正。

图 10 大盘视图,总库存与占比环形图
每条入库记录含丰富元数据,包括美学评分、运动评分、音频描述、视频描述与语义一致性等字段。抽样时按数据源设置抽取配额控制结构平衡,并按来源质量取舍,质量层次不齐的来源多抽,同质化来源少抽,偏色未处理的按需筛选。

图 11 编辑模式,维度定义、子指标与权重配置
美学标准看板
标准要被标注员真正用起来,才能叫落地。美学标准看板把标准做成可执行的三级浏览体系,侧边栏定位类别(大类到二级展开)、顶栏切换维度(可展开子指标)、档位泳道横向平铺,每档挂载参考案例。标注员二选一时直接对照档位描述,不用再背文档。系统支持视频与图像两条独立版本线、档位 2 到 5 档动态配置、案例批量同步、评分定义与维度描述在线编辑;资源库独立维护 8810 条素材,支持批量入库、三级筛选、批量打标与引用链路追踪,20 层撤销防止误操作;协作侧用微信扫码登录、乐观锁防冲突。页面案例与规律表格为真实标准数据。
链接:美学标准看板

图 12 版本管理,版本切换、分类维护、维度定义与档位设置

图 13 资源库管理,批量操作与引用链路

图 14 随机排序浏览,抽样前切换随机顺序,避免只看库存前段
底库 Dashboard 与抽取弹窗
底库看板把数据浏览与抽样流程可视化。数据源大盘展示 30 余个数据源卡片(库存量、占比、排名与环形图总览);抽取弹窗按源随机抽 N 条在线预览,展示标题、描述、时长与分辨率,一键导出 JSONL 元数据。它的价值在于把抽样前置为可交互的过程,不用先下载再碰数据,就能快速判断一个源的质量与构成。局限同样真实,预览只基于元数据与首帧,画面完整质量仍需按候选集进一步人工复核;配额偏置也需在前期参数里显式控制,否则会自然向库存大的来源倾斜。
AI 分类采用「边捞边标」,ffmpeg 均匀抽 5 帧,Qwen3-VL-30B 观察式 Prompt 输出分类标签与美学评分,直接回写看板。好处是确定性强的类目(虚实、横竖屏、动漫画风)可以零人工下沉;局限是风格与语义边界类目仍会混淆,需要人工兜底校验,这部分通过 Pool 管理里的候选集导出衔接人工标注流程。Caption 可视化在数据流中直接渲染语义描述,方便判断 Caption 质量与视频是否匹配。页面视频均为脱敏假数据(模糊填充),数据源规模、分类与标注为真实方案。
标注平台
标注平台是极简的两两对比界面,左侧待比视频、右侧对手视频、一个选择按钮,剥离一切干扰信息。系统按 Elo 三阶配对自动出题,标注员可跳过无法判断的题目并填写理由;平台支持人工与 VLM 双模式出题,后台自动汇总一致性指标供质检参考。
技术架构与工程实现
这些工具直接挂载在模型训练的云服务上运行,而非单机原型。存储复用训练侧的分布式存储底座,数据经并行文件系统与对象存储分层落盘,抽样与打标结果实时回写,与训练管线共用存储、避免数据搬运。预处理类任务跑在 CPU 机器集群上,抽帧、切割、元数据抽取按量弹性伸缩;VLM 批量打标按需申请 GPU,与 CPU 任务错峰调度。架构示意如下。
成果与数据规模
项目最终落地约 0.18b 条经质量模型筛选的高质量数据、30 多个数据源、7 大分类、3 套评分标准。实际投入训练的数据量还要更大,团队人手有限,从 0 到 1 搭建整套体系,仍能规模化筛出高质量数据。案例库沉淀 1691 个本地化媒体文件,资源库素材 8810 条,第一批标注约 55 万次,第二批扩展至 4 类。标准先后迭代五个版本,最终形成 4 档评分制,标注一致性提升约 15%。质量模型基于天梯数据训练,经多轮方案对比后,排序结果与人工天梯高度一致,显著优于随机筛选基线。Caption 从 6 维扩展至 35 维以上,覆盖主体、场景、运动、技术参数、音频与导演级描述,转化 1547 条视频,成功率 100%,并发 30 路约 18 分钟完成。
复盘
方法论主线清晰,先让“什么是好的”变成可标注的标准,再让标准变成可复用的天梯,最后让天梯训练出能自动判断好坏的质量模型。设计师的感性判断被翻译成量化工程标准,主观审美转化为可复现的流程。定义基础画质时,算法同事倾向客观指标,设计同事关注直观感受,最终以客观指标定义子指标、主观感受定义档位。
项目以快速验证推进,前中期效率高,后期数据结构不统一、实验关联弱,交接成本高。中期应统一数据结构与命名规范,让文档伴随开发,更早引入协作;很多决策未及时记录,交接时才集中补文档,文档化比写代码更难,也更重要。