世界模型技术遭邢波团队质疑五大硬伤,PAN新架构突破多模态融合与混合表(示)瓶颈

机器之心独家解读

当前世界模型技术存在显著局限性,亟需重新审视。

众所周知,大语言模型(LLM)通过预测对话中的下一个单词来生成输出。这种机制使其展现出接近人类水平的对话、推理乃至创作能力。然而,以ChatGPT为代表的现有大模型与真正的通用人工智能(AGI)之间仍存在明显差距。这引发了一个关键思考:若能完美模拟环境中所有可能的未来,是否就能创造出真正强大的AI?值得注意的是,与ChatGPT不同,人类能力体系具有明确的技能分层和复杂能力结构。

以人类推理为例:当面对一个哭泣的人时,个体(即便出于自私动机)会通过心理模拟多种可能结果来决定应对方式。人类能够执行各种复杂任务,这些能力都建立在统一的大脑认知架构之上。那么,是否存在能同样完成这些多样化任务的人工智能系统?

来自卡耐基梅隆大学、沙特穆罕默德・本・扎耶德人工智能大学和加州大学圣迭戈分校的研究团队,近日对AI领域最前沿的世界模型技术进行了深入剖析。

研究论文《世界模型批判》指出构建世界模型的五大关键要素:1)包含目标世界信息的训练数据准备;2)采用通用表征空间表达潜在世界状态;3)设计高效推理架构;4)选择恰当的训练目标函数;5)确定模型在决策系统中的应用方式。

基于这些洞见,研究团队提出创新性的PAN(物理、主体和嵌套AGI系统)架构。该架构采用分层、多级的混合连续/离散表示,结合生成式与自监督学习框架。据透露,PAN模型的27B版本即将发布,这将成为首个可运行的通用世界模拟器。

研究团队从五个维度对世界模型提出批判性见解:

在数据层面,强调多模态融合的必要性。虽然视频数据量大但信息冗余,而自然语言作为高度压缩的抽象形式,能编码物理现实和抽象概念。因此,成功的世界模型必须整合视频、文本、音频等多模态数据。

在表征方面,主张混合表示的优势。纯连续嵌入难以应对感官数据的噪声和变异性,而离散符号能提供稳定的推理基础。最佳方案是结合离散符号的稳健性与连续嵌入的细节捕捉能力。

关于架构设计,研究团队为自回归生成模型辩护。他们提出的分层生成式潜在预测(GLP)架构,通过"增强型LLM+扩散模型"的组合,既能保持与真实数据的关联,又能实现鲁棒推理。

在训练目标上,强调数据空间重构的重要性。潜在空间损失可能导致模型崩溃,而基于真实观察数据的生成式重构能提供更可靠的监督信号。

就应用方式而言,研究团队更倾向于强化学习(RL)框架。相比计算密集的模型预测控制(MPC),RL将主要计算成本转移到训练阶段,支持更灵活的战略规划。

PAN架构的创新性体现在:1)全模态数据覆盖;2)连续离散混合表示;3)分层生成建模;4)基于观察的生成损失;5)RL驱动的体验模拟。该架构通过模块化组织感知输入,构建丰富的内部模拟环境,显著提升智能体的推理规划能力。

训练过程中,PAN首先对各模态模块进行独立预训练,再通过多模态数据实现对齐整合。这种分层世界观带来显著的数据处理效率优势。

研究团队强调,世界模型的本质在于模拟现实世界中的所有可能性,而非简单的视频生成。通过批判性分析现有范式并提出PAN架构,他们希望推动更强大世界模型的发展。采用PAN的智能体能够利用预计算模拟缓存,实现接近人类灵活性的高效规划。

更多技术细节请参阅原始论文。

老人过世烧纸落气纸是要埋吗

1、做七仪式:人们认为,人死后七天才知道自己已经死了,所以要举行做七,每逢七天一祭,七七四十九天才结束。这主要是受佛教和道教的影响。2、吊唁仪式:一般吊唁者都携带赠送死者的衣被,并在上面用别针挂上用毛笔书写的某某致字样的纸条。3、入殓仪式:入殓有大殓和小殓之分。小殓是指为死者穿衣服,...。

三天后圆坟,主孝子凌晨要去坟地为老人开门,上午,亲戚都到坟地把坟头填高,因三年后才许清明填坟。 然后,一七把灵魂送出内室,二七送出堂屋,三七送出院门,四七空着,五七送至坟地,百日送至望乡台。这是农村下葬葬礼的过程。 陵园下葬葬礼,无非也是大同小异吧。只是不用动土,不烧纸马香鹤了。 人在气落以后就开始紧张...。

丧葬习俗流有圆坟、烧七、烧百天、烧周年、烧三周年。1、圆坟 自古中国丧葬习俗有出殡日起三天原坟的习俗,即在墓地下葬的需到墓地,上梁、摆供品、上香、踩院子、烧纸等程式。(骨灰盒在殡仪馆存放的,只摆供品、上香、烧纸)。2、烧七 人死之日起,每七天烧一次纸,烧七次,过七殿,共七七,四十九天,此...。

因为人们相信已故的老人需要用到这些纸钱,也是人们对故去的人的一种怀念,虽然烧纸钱会带来很大的消防隐患,但想要取消烧纸钱这样的习俗是很困难的,只能尽量改变人们思想和拜祭的方式,同时加强监督,避免发生意外。1.烧纸钱的习俗。烧纸钱是很多人都熟知的祭祖习俗。据记载,为死者烧纸钱是汉代以来就有的...。

将一起埋在死者身边。老辈子都说,这个钱带着活人和死人之间最后的亲切的关联,是在死者的灵魂的注视下烧的,烧一张他领一张,没有任何干扰,他能点滴不漏全部带走。同时,老一辈也说,烧落气钱,一定要用黄表纸,只有这个东西最通人气,下面的才认。其原理,大概可以理解为电影《无双》里拍到的美钞...。

    附件: