从突破到引领:VQ-Insight如何征服全球顶级AI会议?
会议背景:精英竞技,王者加冕
你是否好奇,AI如何像人类一样“鉴赏”视频?这场革命正从顶级学术舞台开始。近日,人工智能领域国际顶会AAAI 2026公布录用结果。本届会议投稿量高达23680篇,仅4167篇脱颖而出,录取率低至17.6%,堪称学术界的“严苛试炼场”。
在这场高手云集的角逐中,火山引擎多媒体实验室与北京大学的联合论文VQ-Insight: Teaching VLMs for AI-Generated Video Quality Understanding via Progressive Visual Reinforcement Learning强势获选Oral报告,标志着中国团队在AIGC视频理解赛道已站上世界前沿。
VQ-Insight:AIGC视频的“首席品鉴官”
论文背景:视频生成爆发后的质量困局
想象一下,仅凭一句话就让静态图片“活”起来,生成电影级动态画面——这已是AIGC视频的当下。技术狂奔背后,如何让模型持续产出更优画质?成为核心挑战。精准的质量评估与偏好选择不仅是“评分员”,更是驱动模型进化的“导航仪”,能直接对齐人眼感知,大幅提升画面质感与流畅度。
此前,北京大学与火山引擎已推出图像画质理解方案Q-Insight,它抛弃海量标注,激发大模型“思考”图像质量本质。但面对动态视频,两大新挑战横亘眼前:1)如何唤醒模型对时间维度的敏锐感知?2)如何让评估模型与生成模型实时互动、共同进化?
渐进式强化学习:三步炼就视频质量“火眼金睛”
一帧画面决定不了视频好坏,真正的观感藏在动态里:运动是否自然?色彩是否连贯?为此,我们将Q-Insight的“推理+强化学习”框架扩展至视频领域,推出VQ-Insight。它采用渐进式视觉质量强化学习,分三步攻克难题:图像打分预热、通用时序学习、与生成模型联合微调。凭借由易到难、从通用到专项的训练策略,仅用少量数据就掌握了AIGC视频偏好比较、多维打分及自然视频评估等多重技能。同时,我们引入时序奖励与长度控制奖励,激励模型探索帧间关联,并提供深度质量分析,让偏好判断与分数回归精准如尺。
更关键的是,我们设计了生成与评估模型的“双螺旋进化”战术:每一轮,生成模型产出新视频,VQ-Insight自动筛选优劣样本,构建高质量偏好数据;这些数据既优化生成模型(如DPO),也反向强化VQ-Insight的判别力,使其持续适配最新生成结果。闭环之下,两者在迭代中越练越强,实现“生成越精、评估越准”的飞轮效应。

实验结果:多维横扫,性能登顶
实验数据证明,VQ-Insight在多项任务中均展现统治级表现。
在AIGC偏好比较中,VQ-Insight在多个公开数据集上全面超越SOTA方法,并能从视觉质量、时序一致性、动态程度与真实性四维度给出清晰推理。


在AIGC多维度打分任务中,VQ-Insight在空间质量、时序质量及文本-视频一致性上均夺得分项第一。

在自然视频打分任务中,VQ-Insight同样展现高精度拟合能力,尤其在域外数据上泛化性能突出,验证其强大适应力。


VQ-Insight的偏好比较能力可直接用于视频生成模型的DPO优化。如图,基于VQ-Insight的方案相比基线,有效减少错误生成,呈现更鲜艳色彩与流畅动态。

总结:从评估到创造,开启视频生成新范式
VQ-Insight将“推理式+强化学习”深度融入AIGC视频画质理解,在偏好比较、多维打分与自然视频评估中实现突破。通过渐进式学习框架与创新奖励机制,它以极低数据成本达成强泛化与可解释性,精准捕捉空间清晰度、动态一致性、内容真实感等多元特征。更重要的是,VQ-Insight已成为生成模型的可插拔“质量引擎”,把“看得准”直接转化为“生成得好”,为下一代AIGC视频技术注入稳定、人性化的画质基因。
立即探索,成为AIGC视频革命的参与者! 访问以下资源,获取论文、代码与模型,一起推动视频智能迈向更高维度。
VQ-Insight:
https://arxiv.org/pdf/2506.18564
Q-Insight:
https://arxiv.org/pdf/2503.22679
⭐️训练与推理代码:
https://github.com/bytedance/Q-Insight
开源模型:
https://huggingface.co/ByteDance/Q-Insight
团队介绍
多媒体实验室是字节跳动核心研究团队,聚焦多媒体前沿探索与标准化,其算法与方案已赋能抖音、西瓜视频等亿级产品,并通过火山引擎服务企业客户。实验室成果屡获顶会认可,并多次夺得国际赛事冠军与创新大奖。
相关问答
多媒体技术的主要特征是什么?
多媒体技术核心特征为集成性、交互性、实时性与数字化,实现多媒介融合与人机智能互动。
多媒体技术的特点有哪些?
它通过计算机统一处理文本、图形、图像、声音、动画和视频,构建逻辑关联,打造沉浸式信息体验。
多媒体技术的五个特征?
通常指集成性、控制性、交互性、实时性、数字化,支撑多通道信息的获取、处理与呈现。
多媒体技术具有哪四种特性?
主要包括集成性、交互性、实时性、数字化,是多媒体技术的本质属性。
什么是多媒体技术,它的主要特征是什么?
多媒体技术是计算机综合处理多种媒体信息的技术,主要特征为交互性、集成性、实时性,实现人机高效沟通。
多媒体技术的主要特征是?
交互性是核心特征,它赋予用户对信息的深度控制与理解能力。
多媒体技术特征
特征涵盖多种信息形式、交互性、集成性、实时性,驱动体验升级。
多媒体技术有几大特点?
拥有综合性、控制性、交互性、实时性等特点,实现多元媒体元素的整合与传播。
多媒体技术有几大特点?
特点包括集成性、控制性、交互性、实时性,满足信息的多维处理需求。
多媒体技术在本质上具有以下重要的特征()
本质特征为多样化、集成化、交互化,推动技术融合与创新应用。