从计较机缔造以来，东谈主类就一直在想象怎么让它们变得像科幻电影里那样灵巧。从《2001：天际漫游》中的 HAL 9000，到《流浪地球》中的 Moss，东谈主工智能在屏幕中时时高效、感性、逻辑密致，给东谈主留住潜入的印象。

现如今，大说话模子和深度学习让咱们对"超等 AI "的可能性有了更多期待。但要完了像 Moss 那种"万能助手"的智能，咱们还需要卓著许多阻拦，最进军的一丝就是：怎么让 AI 飞速相识并应酬各式复杂场景，而无谓依赖"海量"数据的荒诞堆积？

▷  开yun体育网 图 1. 电影《流浪地球》中的 Moss。图源：天下社会学

刻下，机器学习已平凡应用于数据分类、预测、想象与生成等诸多畛域，这些任务无不需要相识和应酬复杂多变的情境。然则，传统的机器学习方法时时依赖海量的数据和坚硬的计较资源，在处理高维度和大范围数据时，未免举步维艰。

为科罚这些问题， Karl Friston 近日在 arxiv 发表了题为" Renormalising generative models：From pixels to planning: scale-free active inference " 的论文。他通过主动推理（Active Inference）构建了圭臬不变的生成模子（Renormalising Generative Model, RGM），将分类、预测与想象等问题转机为推理问题，并借助最大化模子字据这一调和框架，有用科罚了视觉数据、时序数据分类及强化学习中的多种挑战。收成于该框架中引入的重整化群时期，这一方法或者高效地处理大范围数据集。

▷图 2. 本文开首：Friston, Karl, et al. "From pixels to planning: scale-free active inference." arXiv preprint arXiv:2407.20292 ( 2024 ) .

01 主动推理

主动推理（active inference），指的是一种基于咱们刻下不雅察到的餍足来预测改日的模子。为什么称这种推理为"主动"呢？因为这种推理不单是是被迫地恭候发生的事情，而是通过主动的不雅察来推断事件的原因。也就是说，诚然事件的发生旅途有些是看不见的，但有些旅途是咱们不错通过我方的行为来影响的，此外，还有一些末端是咱们采用行为后才会得到的，是以在推理的过程中，咱们不仅要推测事件可能会怎么发生，还需要通过行为来鼓动这些事件的发生。

例如来说，在网球比赛中，球的航行轨迹如同在一棵束缚伸开的"可能树"上延展，每一次击球齐为这棵树增添一条新的分支（比如截击、抽球、扣杀、放小球……）。赛场上的选手需在稠密可能的旅途中作念出遴荐，这不仅取决于自身的时期，也受制于敌手的计谋。在主动推理中，这种"对改日有所猜想但不行详情的进度"被称作目田能。它不错相识为模子对所处环境（不雅测数据）"没看昭着"的进度。目田能越高，就代表系统对刻下或改日气象越"没底"。

其中，预判与实际的差距，等于预期目田能。而推理的目的，恰是将这种目田能降至最低。即选手不错通过不雅察（敌手球风、站位）和主动行为（比如试探性地将球打到敌手不擅长的区域）来减少这种省略情趣。最终，目田能降到一定进度，选手就能作念出料敌先机、打败敌手的最好决议。

▷  图 3. 该究诘中生成模子，无论是决议照旧分类，生成模子齐是通过两个主要部分来显露：似然性（likelihood）给定原因的末端概率和先验 A。似然性显露在每种状态（s）组合下，某个末端发生的概率。而先验 A 则依赖于当场变量，响应了咱们对末端的初步假定。阴私状态之间调理的先验 B 由先验 B 决定，这些调理依赖于特定的旅途（u），其调理概率则在 C 中进行了编码。如若某些旅途或者最小化预期目田能（G），那么这些旅途在先验上就更有可能被遴荐。

具体来说，咱们不错基于上图 3，梳理缔造成模子具体使命经由：

（1）计谋遴荐：通过预期目田能的 softmax 函数来遴荐计谋，这决定了后续阴私状态的生成姿首。计谋遴荐过程中，临了一滑的第一项显露近似后验散播（模子预测的状态散播）与确凿后验散播（内容状态散播）之间的 KL 散度，这一项估量了近似后验散播与确凿散播的互异，响应了模子的复杂度（越小越好）。模子的复杂度较高可能意味着它过于拟合考研数据，无法很好地泛化。第二项显露在近似后验散播下，不雅测数据的对数似然的盼望，它估量了模子对不雅测数据的解释才智，解释才智越强，阐发模子或者较好地刻画和预测数据，代表了模子的准确性。

（2）阴私状态生成：根据所选旅途组合指定的概率调理，生成阴私状态序列。这些阴私状态代表了模子在不同时间点或本领中的里面状态，匡助模子相识和预测数据的变化。

（3）末端生成：阴私状态通过一个或多个模态生成最终的末端。在这个过程中，阴私状态的推断是基于不雅测到的末端序列，通过反推生成模子来推测阴私状态。学习则是通过更新模子参数来完了。其中推断的过程是以过在（可限度的）旅途上斥地先验，来最小化预期目田能完了的。

为了便于相识，咱们照旧以网球比赛为例进行阐发。其中第一项是指通过模子参数的转换，擢升对敌手行为的预测才智；第二项是指通过自身的行为来终结敌手的遴荐；第三项是这些行为由于不雅察省略情趣带来的蚀本。主动推理模子通过最小化目田能 G（u）来优化计谋，从而在比赛中占据成心位置，最终得到告捷。

02 主动遴荐与重整化群

传统的机器学习方法大多是：拿一堆数据去"考研"模子的参数，然后用这些参数来预测或分类。但随机候，模子太坚硬或者数据散播太复杂，咱们就需要从多个模子中挑选出最合适的阿谁，让它能既准确又高效地处理数据。

在贝叶斯派系看来，这叫作念"贝叶斯模子遴荐"。其中领有统共可能性的"父模子"可能很复杂，包含海量假定；但咱们也不错删掉一些无谓要的假定，让模子更简化，成为更易计较、更易泛化的"子模子"；咱们通过相比父模子与子模子对数据的解释进度（即目田能、边缘似然等方针），来判断哪个更"精简而有劲"。迎面临新数据时，这个框架不错通过为每个独到不雅测添加新的潜在原因，来完了快速结构学习。

在模子遴荐过程中，通过相比父模子和增强模子下参数的后验盼望，可计较预期目田能的互异。这一互异响应了遴荐一个模子相较于另一个模子所带来的信息增益，体现了模子在解释数据时的"职守"。根据对数上风比的大小，不错决定保留或停止父模子。唯独当预期目田能缩短时才保留或停止父模子。

当数据集范围扩大时，模子通过重整化群时期，在更大的圭臬上生成对更微弱圭臬的近似刻画，从而高效应酬数据量的增长。拿图像为例，你不错先看一整张大的场景（比如一个城市俯瞰图），然后再束缚放大某个局部去看街谈，临了对街谈里的某一栋建筑继续放大……在不同的缩放比例下，你暖热的信息不一样，但它们其实是吞并个场景，不同圭臬间不错彼此映射。

重整化群就是利用了这种多档次、多圭臬的想想：在每一层，模子齐对上一层的末端进行简化、再加工（如把某些像素合并成一个块，或者把齐集的语音书号破裂成多少音符），酿成一个更高等次、更详尽的刻画；这么，数据集再坚硬，也被一层一层地"压缩"成纯粹的要素和关系，大大减弱了计较职守。而且，这些高等次的"意见"或"状态"或者跨时刻、跨空间地进走运算，模子无谓在每一个轻细的维度上"纠缠"，就不错作念出有用推断。

在 RGM 中，这种重整化还会体面前时刻上：对低档次的模子而言，你可能只暖热"下一秒会发生什么"。对更高等次的模子，你暖热的是"这一幕戏的剧情走向"或"下一个章节的主题"，是以时刻跨度更大。这就像看电影时，你不会防备每一帧的细节，只消把执举座情节即可。

在齐集时刻的极限情况下，模子的重整化不错处理速率的变化（即加快度），以至更高阶的变化，雷同于齐集状态空间模子中在广义教导坐标下的运作姿首。从更直不雅的角度看，更高等次编码的序列不错看作是事件的组合或情节，在深层结构中，一个状态不错生成序列的序列的序列，从而干预了在最低档次生成的内容的马尔可夫性质（即系统确刻下状态只与前一个状态关系，而与更早的状态无关）。举个例子，一个低档次的天气模子，不错只关注今天的温度与昨天的温度的关联。但在更高等次，可能要引入"季节"这一意见，关注恒久变化的趋势。

▷图 5.   模子重整化过程暗意

此外，模子在状态空间上也需要进行重整化，如图 5 所示，较低档次的状态组由较高等次的单个状态生成，且任何档次的状态齐不会分享较低档次的子状态，这使得潜在因素在每个档次上齐是条目寂然的，从而保证了模子在不同档次之间不错进行高效的乞降积运算。

最终，RGM 通过多档次的时刻和空间圭臬，把一个复杂的视频、声息或者游戏场景进行详尽，让模子不错在更"宏不雅"的档次上科罚问题，并把微不雅层的预测（比如像素级别的变化）交给更底层去向理。

03 图像，视频及音频数据的压缩和重建

重整化生成模子可应用于不同类型的数据，例如进行图像分类和识别。咱们齐知谈图像是由齐集的像素组成的，模子领先会将这些齐集的像素值转机为一组破裂的值，称为量化；然后对图像进行分割，将图像分辨为小方块，这些小方块不错被看作"自旋"，通过这种变换，不错让模子集聚处理图像的小区域，而不是通盘大图像，这种方法称为"块自旋变换"（Block-Spin Transformation）；接着进行奇异值瓦解（SVD），提真金不怕火最进军的信息。通过减少不进军的身分（即小的奇异值），模子完了了图像的初步压缩。

重迭对图像进行这种分块处理和变换，直到达到一个更高的档次。每次变换会创建一个从高等次到低档次的似然映射，即从全局的角度到局部的细节的调理，然后，通过快速结构学习（Fast Structure Learning），模子就能根据不同档次之间的结构关系来学习怎么生成图像。在考研过程中，模子通过递归应用禁绝变换来学习图像的多档次结构，并束缚调整参数，以最大化互信息。互信息响应了模子能从数据中提真金不怕火到的有用信息量，优化模子时就是在尽量擢升这一信息量。

以 MNIST 数字分类问题为例，模子通过对 MNIST 图像进行预处理，使用少许示例图像进行快速结构学习，生成具有四个档次的 RGM。然后，通过主动学习优化模子参数，使互信息最大化。

▷  图 6.   MNIST 图像的量化过程，左图为原始图像，右图为重建图像。

▷图 7. RGM 的似然映射（图像的一个档次映射到另一个档次），上排展示了经转置后的映射，以阐发状态在不同档次之间的生成关系。重整化生成模子在学习像素空间顶用于对象识别和生成的生成模子结构的应用。模子使用少许示例图像来学习适用于无损压缩的重整化结构。

重整化之后，模子通过主动学习对所得末端进行泛化；即在学习过程中，通过优化它的参数（例如压缩方法和遴荐的块变换姿首），从多数图像中录取一些数据进行考研。然后，模子通过计较这些数据怎么压缩（即通过块变换），找到最有用的压缩姿首，使得压缩后的图像仍然保留尽可能多的关节信息。这种主动学习确保了从像素到对象或数字类别的圭臬不变映射，保留了像素间的互信息。

▷  图 8. RGM 在不同档次上的投射场（模子在不同档次上所学习到的结构），从上到基档次逐渐缩短，投射场逐渐从全局变为局部，雷同于视觉系统中检朴单的感受野到复杂感受野（神经元响应的图像区域）的变化。

除了进行数据压缩，RGM 会使用瞻望最可能的数字类别的姿首来对测试图像进行分类。主动推理中的监督依赖于模子仍是具备的一些对于内容原因的学问，这与一些在学习中使用类别标签的主义函数酿成对比。

在主动推理中，主义函数是用来估量字据的"可能性"或者"边缘可能性"的一种数学器用。通过优化这个主义函数，模子或者推测出某个餍足最可能的原因（比如数字的类别），同期判断这个餍足是否是由某个特定的原因（比如数字类别）引起的。简而言之，模子试图通过最小化这种主义函数，来找到最合适的解释，匡助它更准确地相识和推测数据背后的原因。

上述 RGM 在斗争 10,000 个考研图像后，在自行遴荐的测试数据子集上达到了启程点进的分类准确性。每个考研图像在考研过程中只被呈现给模子一次，并采用齐集学习姿首。进军的是，主动学习只遴荐那些能带来最大信息量的图像进行考研，因此内容用于学习的图像数目大大少于 10,000 个。这种为学习遴荐正确数据，将会是后续部分的反复出现的主题。

▷  图 9. 展示了 MNIST 数据集的主动学习过程，包括互信息和变分目田能的变化。

▷   图 10   RGM 模子产生了不实分类的图像示例。

RGM 模子还可被用于识别和生成有序的图像序列，即视频。具体来说，为了生成视频，RGM 模子会谈判时刻的变化，把时刻分红不同的"圭臬"，并在每个时刻档次上进行调理，确保每一帧之间的过渡是独到的、当然的。

接下来，RGM 模子会对图像进行处理，把图像的空间（位置）、表情和时刻信息齐转机为一个范例的局势，即时刻 - 表情 - 像素体素（time - colour - pixel voxels），并记载相邻体素之间的变化。

然后，模子会把这些处理过的图像按时间分红等长的段，通过相比不同时间点之间的互异来估算每段视频的运业绩态，并基于这些估算末端生成一个新的时刻段序列。通过重迭这个过程，模子最终不错生成一个视频序列的举座结构，且每个时刻段的变化齐不错用一个纯粹的格局来显露。

以鸽子扇动翅膀的视频为例，图 11 展示了鸽子视频的原始帧和破裂化后的重建帧，以及 RGM 生成电影的过程，包括状态和旅途的后验预测以及生成的图像。

▷ 图 11 预测模子生成的鸽子航行视频。上图，RGM 怎么把一帧原始图像"卷"进模子里、进行破裂化后的重构示例。它阐发模子能在保证主要信息不丢的情况下，完成从高维到低维的压缩。中图：RGM 如安在学到视频结构后，通过高层的"事件序列"生成新的、更多的帧序列。它重心体现了模子的"视频生成"功能——不单重构，还能合成新的动态内容。下图：RGM 在面临部分（不完满）输入时，怎么利用仍是学到的统计结构来推断、补全并及时更新对整幅图像的猜想。它阐发了模子具有"基于教授的预测和填补"才智。

将 RGM 应用于声息文献时，可将像素替换为频率和时刻上的体素（voxels），组成时刻序列，例如使用齐集小波变换（CWT），并通过逆变换将 CWT 表征调理为线性声息文献进行播放。重整化生成模子对于声息比视频内容更纯粹，因为需要处理的数据随同时刻唯唯独个维度。

以鸟叫声和爵士音乐为例，RGM 可对声息进行压缩并复现。图 12 展示了鸟叫声的考研数据，包括齐集小波变换和破裂显露。

▷   图 12.   RGM 对鸟叫声的重整化和生成，将鸟叫声压缩为一系列事件，并生成了雷同鸟叫的声息。

▷   图 13.RGM 对爵士音乐的生成，将音乐压缩为 16 个事件，每个事件对应一个音乐末节。

▷   图 14. 展示了 RGM 在有原始声息文献输入时的同步预测才智，雷同于音乐中的同步合奏。

RGM 还可应用于想象推理（强化学习），从而考研智能体使其或者在省略情趣下进行决议。在主动推理框架下，使用 RGM 进行决议的过程比单纯的预测更为凯旋。这一过程基于目田能旨趣以及与之关系的具身领略表面。从目田能旨趣的角度看，智能体被视为具有特征状态的自组织系统，特征状态刻画了智能体的类型。引诱集（attracting set）的存防备味着不错用先验偏好来刻画，是对于智能体怎么自组织的信息论解释。

从仿生学的角度看，RGM 不凯旋发出教导指示，而是通过预测教导来限度智能体的步履，雷同于东谈主类通过外周教导反射来限度体格动作。这种想法源于目田能旨趣对状态的分辨，里面状态和外部状态通过限度和嗅觉状态分开，这产生了主动推理，即限度步履自己就是推理的一部分。

▷   图 15：主动推理和强化学习（即奖励学习）范式之间的区别。

主动推理勾通了限度表面和仿生学，它与强化学习之间的基本区别在于，主动推理中，行为是基于对行为末端的后验预测来决定的，即通过贝叶斯想象来进行推理，这些预测开首于最小化预期目田能的计谋或酌量，展示了行为的后果，减少了省略情趣。主动推理中的信念更新（即感知）和教导限度（即行为）齐不错被视为最小化省略情趣的过程。这与强化学习有很大不同。在强化学习中，智能体依赖于一个预设的奖励函数，通过考研来更新输入和输出（嗅觉到限度）之间的函数（时常是深度神经收罗的参数）。

RGM 还可用于想象推理。以 Atari 类游戏（如 Pong 和 Breakout）为例，RGM 不错从当场动作的末端序列中自动拼装出或者以大家水平进行游戏的智能体。

▷   图 16. 在 Pong 游戏应用 RGM 所产生中的旅途和轨谈以及怎么压缩考研序列，并处理事件之间的调理。

04 数据的"真金不怕火金术"，怎么带来 AI 的进一步发展？

通过上述一系列实验和表面分析，Friston 偏激共事在多种场景下讲解了基于重整化群的破裂状态空间模子（RGM）十分有用。在这些应用中，齐通过最小化预期目田能来进行遴荐、学习和回转生成模子。重整化群的应用科罚了大范围数据处理的问题，况且由于主动推理方法依赖于目田能旨趣，使用重整化群时相对容易完了。此外，目田能旨趣自己是一种圭臬不变的变分旨趣，天生适用于不同圭臬的系统。

因此，咱们不错说，RGM 在多个畛域中具有巨大的后劲。例如，在图像和视频处理中，它不错完了更高效的压缩和生成，有助于检朴存储空间和擢升数据传输后果。在声息处理方面，或者对声息进行有用的压缩和生成，对于音频数据的存储和传输具有进军意旨，同期也为音乐创作和声息识别等畛域提供了新的想路。在游戏和想象畛域，该模子不错匡助智能体学习大家的计谋，完了更智能的决议和行为，这对于东谈主工智能在游戏、机器东谈主限度和决议制定等方面的应用具有进军的鼓动作用。

RGM 模子结构纯粹、后果高，或者快速学习模子结构，但面前可能不符合用于复杂系统建模。改日的究诘不错谈判将齐集状态空间模子调理为破裂状态空间模子，并使用重整化方法进行学习，同期矫正模子的参数化以妥当更多的应用场景。从更平凡的角度看，这种基于重整化群的方法为相识和处理复杂系统提供了一种新的框架，有助于揭示当然界中广泛存在的圭臬不变性和结构学习的旨趣，对物理学、生物学和计较机科学等多个畛域的究诘齐具有一定的启发意旨。

现存的绝大多数东谈主工智能齐依赖于多数的数据，怎么更高效地学习和哄骗这些数据，决定了东谈主工智能科罚问题的后果和才智。总结历史，古代真金不怕火金术在某种进度上鼓动了冶金术的发展，让咱们或者更好地提真金不怕火和使用金属。今天，咱们相同在尝试将原始、未经处理的数据手脚"原料"，从中挖掘出深档次的结构、功令和格局，进而提真金不怕火出有价值的洞见。也许，在不久的将来，具备更强数据处理才智的东谈主工智能或者像《流浪地球》中的 Moss 一样，为咱们的生计提供更坚硬的决议维持，成为咱们在应酬复杂问题时推断最优解的过劲助手。

* 本文参考开首：Friston, Karl, et al. "From pixels to planning: scale-free active inference." arXiv preprint arXiv:2407.20292 ( 2024 ) .