机器之心报道
当前的世界模型研究存在诸多值得商榷之处。
众所周知,大语言模型(LLM)通过预测对话中下一个单词的方式生成输出。这种机制使其展现出接近人类水平的对话、推理甚至创作能力。然而,以ChatGPT为代表的大模型与真正的通用人工智能(AGI)之间仍存在明显差距。这引发了一个思考:如果我们能完美模拟环境中所有可能的未来,是否就能创造出真正强大的AI?值得注意的是,人类能力的构成与ChatGPT存在本质区别——人类兼具具体技能和深度复杂能力。
举例来说,一个(可能带有私心的)个体会通过心理模拟多种可能结果来决定如何帮助哭泣的人。人类能够执行各种复杂任务,这些都基于相同的大脑认知架构。那么,是否存在一个AI系统也能具备这种全方位的能力?
近期,来自卡耐基梅隆大学、沙特穆罕默德・本・扎耶德人工智能大学和加州大学圣迭戈分校的研究团队,对AI领域的前沿方向——世界模型(World Models)的局限性进行了深入探讨。
在题为《Critiques of World Models》的论文中(论文链接:https://arxiv.org/abs/2507.05169),研究者提出了构建世界模型的五个关键维度:训练数据准备、通用表征空间设计、推理架构选择、目标函数制定以及在决策系统中的应用方式。基于这些维度,团队创新性地提出了PAN(Physical, Agentic, and Nested AGI System)架构,该架构采用分层、多级的混合连续/离散表示,并整合了生成式与自监督学习框架。
研究团队指出,PAN模型的详细研究成果将很快公布。MBZUAI校长、CMU教授邢波在论文提交后特别转推了这项研究,透露PAN模型即将发布27B参数的第一版,这将成为首个可运行的通用世界模拟器。
论文对当前世界模型研究提出了系统性批判。以Yann LeCun为代表的学派主张通过"预测下一个表征"而非"预测下一个数据"来构建世界模型。作者团队对此提出了独到见解:
虽然视频等感官数据量庞大,但信息冗余度高而语义密度低。相比之下,自然语言作为人类经验的高度压缩形式,不仅能描述物理现实,还能编码"正义"、"动机"等抽象概念。因此,通向AGI的道路不能偏重单一模态,必须整合视频、文本、音频等多模态数据,才能全面理解世界。
在表征方式上,作者反对单纯使用连续嵌入的主张,指出这种表示难以应对感官数据的噪声和变异性。人类认知通过将感知归类为离散概念来解决这一问题,而语言正是这些概念的载体。研究证明,结合离散符号的稳健性与连续嵌入的细节捕捉能力,采用混合表示才是最佳方案。
针对自回归生成模型的质疑,论文提出了分层生成式潜在预测(GLP)架构的创新解决方案。该架构通过生成式解码器确保模型与真实数据挂钩,同时利用分层抽象隔离底层噪声,实现了更强大的推理能力。
在训练目标方面,研究揭示了潜在空间重构损失存在"平凡解崩溃"风险,而基于数据空间的生成式重构目标能提供更可靠的监督信号。图8的理论分析表明,潜在损失仅是生成式损失的宽松上界,低潜在损失并不能保证预测准确性。
关于世界模型的应用方式,论文比较了模型预测控制(MPC)和强化学习(RL)的优劣。MPC虽能进行即时优化,但计算开销大且视野有限;而RL将计算成本转移到训练阶段,使智能体能够进行长期战略规划,展现出更好的扩展性。
基于这些批判性分析,PAN架构确立了五项核心设计原则:全模态数据覆盖、混合连续/离散表示、基于增强LLM的分层生成建模、观察数据驱动的生成损失、以及RL驱动的智能体训练。这种架构通过分层组织感知、行动、信念等要素,实现了对现实可能性的模拟,使智能体能够进行有目的的推理。
在训练策略上,PAN首先对各模块进行自监督预训练,再通过多模态数据进行对齐整合。这种多尺度分层方法显著提升了数据处理效率,既建立了扎实的知识基础,又促进了跨模态泛化能力。
最终,研究团队强调,世界模型的本质不在于生成视频或虚拟现实,而在于模拟现实世界中的所有可能性。通过批判性分析现有范式并提出PAN架构,他们希望推动世界模型研究向更强大的方向发展。由PAN驱动的智能体能够利用预计算模拟缓存进行高效规划,这种接近人类推理灵活性的方式,展现了通用人工智能的新可能。
更多技术细节请参阅论文原文。
农家医女带着空间好种田
作者: 凤栖桐 标签: 空间, 甜文, 历史时空, 种田 简介:啥?穿成古代有名的苦情小白花,能反悔不? 要送随身空间一枚,不错不错,不过,怎么用还要自己发觉,坑人呢! 现代女特种兵一朝穿越,脚踢负心汉,寻找优质男,带着神奇空间玩转宋朝。9、带着异能兴农家 作者: 捡贝拾珠 标签:...;关于穿越到老农民致富的小说有:《末世一角》、《山里汉子农家妻》、《神医美娇娘》、《药香农女种田忙》、《福妻娇女来种田》、《农家医女种田忙》、《农女当家:带着空间好种田》、《穿越至农家致富》。其中,《神医美娇娘》这是一本好看的穿越种田文,而且女主拥有绝世的医术,在这个女尊的时代,挑...。
《重生空间之田园医女》,《穿越之带着百度去种田》,《我的相公不简单,农妇灵泉》,《花田篱下》,《空间药女》,《重生之弃妇良田》,《农家有女之蓝衣》,《空间灵泉田园医女》,《空间小农女》,《冷宫公主种田记》,《田园医女娉婷传》,《农女种田手札》,《田园乞丐婆》有几个无空间无...;2、《末世一角》:男主矮穷矬遇到末世,偶得一个小小的种田空间。对的,这个末世没有丧尸,只有极度恶劣的天气。这就是个矮穷矬男主在末世偏安一隅过着偷乐小日子种田文。男主经历了酷暑严寒和洪水三种极端天气模式,还和他奶开心的活着。3、《山里汉子农家妻》:男主是山里的糙汉子,强娶了女主,...。
3、《赚钱宠夫养崽崽》:年轻貌美的妇产科主任叶文樱一朝穿越到八零年代,要吃没吃要穿没穿,不过她并不担忧,毕竟有一个神奇空间外加高超的医术,想要发家致富是分分钟的事情。4、《八零财女逆袭》:罗玲玲上辈子被亲人欺凌、被爱人背叛,生活的落魄潦倒。可她坚决不向命运低头!重回到八十年代,...。
0、2、《种田之农家小妞》穿越到古代当一个农家姑娘,没有灵泉没有金手指,完全是要饿死本宝宝的节奏!白露表示深深的不服,且看她如何发家致富,顺便追上这个面瘫。3、《农家医女:带着空间好种田》外科女大夫一朝穿越成为了苦命农家女,上无瓦房遮顶,下无寒衣裹体,穷困潦倒。为了换五十斤大米,被卖作...。
1、简介:穿成古代小白花,能反悔不?要送随身空间一枚,不错不错,不过,怎么用还要自己发现,坑人呢!现代女特种兵一朝穿越,脚踢负心汉,寻找优质男,带着神奇空间玩转宋朝。9、《带着异能兴农家》作者:捡贝拾珠 标签:家长里短,历史时空,种田,宅女 简介:表达一个职场精英女青年,从优越环...。