在过去短短两年内,随着诸如 LAION-5B等大规模图文数据集的开放,StableDiffusion、DALL-E2、ControlNet、Composer,效果惊人的图片生成方法层出不穷。图片生成领域可谓狂飙突进。然而,与图片生成相比,视频生成仍存在巨大挑战。首先,视频生成需要处理更高维度的数据,考虑额外时间维度带来的时序建模问题,因此需要更多的视频-文本对数据来驱动时序动态的学习。然而,对视频进行准确的时序标注非常昂贵。这限制了视频-文本数据集的规模,如现有WebVid10M视频数据集包含10.7M视频-文本对,与LAION-5B图片数据集在数据规模上相差甚远,严重制约了视频生成模型规模化