类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
49
-
浏览
252
-
获赞
9622
热门推荐
-
陕西延安:专项检查中秋月饼市场
中国消费者报西安讯记者徐文智)中秋佳节临近,月饼等节令食品迎来销售旺季,为保证群众吃上安全放心的月饼,确保节日期间食品安全,9月7日上午,陕西省延安市市场监管局对宝塔区制作传统月饼糕点的小作坊和经营店广西隆林中巴车侧翻致2死11伤
3月22日11时许,广西百色市隆林各族自治县克长乡新合村路段发生一起中巴车侧翻事故。当地消防部门接到报警后,立即调派力量赶往救援。消防救援力量到达现场后发现,一辆中巴车侧翻到距离路面约4米落差的田地里杨浦这个街道,发布27件与人民生活密切相关的实事项目→
新建2处家门口养老服务站,新建1家长者食堂或敬老助餐点,完成35户居家环境适老化改造,为辖区户籍90周岁以上老人提供爱心奶、为103户特殊困难老年人开展智能水表安全监测服务……3月15日,杨浦区延吉新法国将反恐安全警戒级别提升至最高
当地时间24日晚,法国总统马克龙在总统府爱丽舍宫主持召开国防和国家安全会议,会议围绕俄罗斯莫斯科州恐怖袭击事件及事件后果等议题展开讨论。随后,法总理阿塔尔宣布,法国决定将反恐安全警戒级别提升到最高级别Air Max 97 鞋款全新珍珠白配色释出,小姐姐专享
潮牌汇 / 潮流资讯 / Air Max 97 鞋款全新珍珠白配色释出,小姐姐专享2020年02月21日浏览:2764 不论是为东京奥运会打造的“金子弹”还是细节满满的即将关闭!上海驾驶员常用的这个举报平台不能用了?最新回应来了
上海市公安局交警总队日前发布“上海交警”APP将全面融合至“一网通办”移动端“随申办”超级应用自2024年4月1日起,“上海交警”APP将正式关闭,届时市民将不能再从应用市场下载“上海交警”APP,同近十年我国结核病发病率下降25% 加大宣传扩大筛查是防治关键
今天3月24日)是第29个“世界防治结核病日”,今年的主题是“你我共同努力 终结结核流行”。近十年我国结核病发病率下降25%世界卫生组织发布的《2023年全球结核病报告》显示,2022年全球有1060即将关闭!上海驾驶员常用的这个举报平台不能用了?最新回应来了
上海市公安局交警总队日前发布“上海交警”APP将全面融合至“一网通办”移动端“随申办”超级应用自2024年4月1日起,“上海交警”APP将正式关闭,届时市民将不能再从应用市场下载“上海交警”APP,同广西桂林开展“零点突击”行动保障食品安全
中国消费者报南宁讯张巍 记者 顾艳伟)9月7日凌晨,一场旨在提升鲜湿米粉、油条食品安全质量的“零点突击”行动在广西桂林全面打响。当日零时,桂林市场监管系统210名执法人员统一行月初5800元月底7225元 新能源车保费涨价难题怎破解?
月初报价5800元 月底报价7225元 换了一家保险公司报价过万新能源车保费涨价难题如何破解“保险公司月初报价5800元,月底报价7225元。换了一家保险公司,报价居然达到11300元。”新能源车车主新百伦全新 996 全灰配色鞋款亮相,复古韵味十足
潮牌汇 / 潮流资讯 / 新百伦全新 996 全灰配色鞋款亮相,复古韵味十足2022年03月26日浏览:2677 作为 NB 9 系中的重要成员,New Balance近十年我国结核病发病率下降25% 加大宣传扩大筛查是防治关键
今天3月24日)是第29个“世界防治结核病日”,今年的主题是“你我共同努力 终结结核流行”。近十年我国结核病发病率下降25%世界卫生组织发布的《2023年全球结核病报告》显示,2022年全球有1060The Letters 发布 2020 春夏系列型录,当代西方情怀
潮牌汇 / 潮流资讯 / The Letters 发布 2020 春夏系列型录,当代西方情怀2020年02月25日浏览:3084 日前,由设计师向田雄一主理的 The一眼心动!嘉定这些文化地标,来疁必达①
提起一座城人们脑海中必定会出现与之相关的“记忆符号”——文化地标嘉定800年文脉流淌文化地标层出叠现古新交替彰显着这座城市的文化内核和它特有的魅力快和小嘉来看看嘉定这些“显眼包”推荐指数:5分嘉定古镇国台办:获救吴姓男子22日送返金门
国务院台办发言人陈斌华22日就18日获救的2名金门遇险人员送返事答记者问。有记者问:3月18日,大陆海警救起2名金门遇险人员,国台办发言人当天表示将尽快予以送返,但据了解至今两人尚未返回。请问此事处理