节省时间

||分析

注:这是有限因子集的序言,我将在接下来的几周发布这个序列。这个周日太平洋时间中午,我将做一个Zoom演讲(链接)介绍了有限因子集,我认为这个框架在技术上和逻辑归纳一样有趣。

更新5月25日:一篇介绍有限因子集的视频和博客文章现已发布在这里.)


在过去的几年里,我的研究动机很大一部分是为了节省时间的概念,例如,节省它,从所有由决策亚博体育官网理论问题造成的奇怪的因果循环中。希望这篇文章能够解释为什么我如此在意时间,以及我认为需要修正的地方。

为什么时间吗?

我对时间的简短描述是这样的时间是因果关系.例如,在Pearlian Bayes网络中,从早期节点到后期节点绘制边。如果我们想要思考因果关系,那么我们就需要理解时间。

重要的是,时间是学习和承诺发生的基础.当特工学习时,他们会随着时间学习。时间的流逝就像一种仪式机会被破坏,知识被创造.我认为许多学习模式都有微妙的混淆,因为它们是基于对时间的混淆概念。

时间也是思考代理的关键。我对代理最好的简短定义是代理是时间旅行.行动者是一种机制,通过这种机制,未来能够影响过去。agent模拟其行为的未来结果,并在这些结果的基础上选择行为。在这个意义上,结果原因这个动作,尽管在标准的物理感觉中,动作来得更早。

问题:时间是愚蠢的

时间的主要问题在于它是“愚蠢的”。

纽科姆的问题最让人困惑的地方在于,我们总是认为自己的决定是在填满盒子之前做出的,尽管实际上它是在填满盒子之后做出的。这暗示着,除了物理时间,也许我们还想理解其他一些“逻辑”时间。

然而,当我们尝试这样做的时候,我们会遇到两个问题:首先,我们不知道这个逻辑时间可能来自哪里,或者如何学习它,其次,我们会遇到一些明显的时间循环。

我打算把第一个问题放在一边,把重点放在第二个问题上。

要想知道为什么我们会陷入时间循环,最简单的方法就是注意到,似乎物理时间至少与逻辑时间有一点纠缠。

想象一下,如果有人对纽科姆的问题进行物理模拟,并追踪所有原子的所有细节。从这个角度来看,似乎有一种有用的意义,即填满箱子之后,代理人才会决定是选择一个箱子还是两个箱子。然而,与此同时,这些原子组成了一个代理,它不应该做出任何决定,就好像它无法改变任何东西一样。

也许这里的解决方案是,考虑有许多不同类型的“之前”和“之后”,“原因”和“结果”等等。例如,我们可以说,从主体优先的角度来看,X在Y之前,但从物理优先的角度来看,Y在X之前。

我认为这是对的,我们想要认为有许多不同的时间系统(希望是可预测的相互联系的)。亚博体育苹果app官方下载但我不认为这能解决全部问题。

考虑一对FairBot这些特工成功地执行了Löbian握手,在一个开放源代码的囚徒困境中进行合作。我想说每个行为人的合作在某种程度上导致了另一个行为人的合作。我可以说,相对于每个代理,因果/时间顺序是不同的,但我认为在这种情况下,循环是结构的重要组成部分。(我甚至不确定我想把哪个时间方向与哪个代理联系起来。)

由于其他原因,我们也试图在我们的时间/因果关系中加入循环。例如,当在一个持续存在的系统中建模一个反馈循环时,我们可能会画出看起来很像贝叶斯网的结构,但不是亚博体育苹果app官方下载无环的(例如POMDP)。我们可以把它看成另一个系统的投影它有额外的时间维度,但它仍然是一个有用的投影。亚博体育苹果app官方下载

解决方案:抽象

我主要希望通过抽象来恢复一个连贯的时间概念并解开这些时间循环。

在代理基于结果选择行动的例子中,我认为存在一个因果结果的抽象模型,先于行动的选择,而行动的选择先于实际的物理结果。

在Newcomb的问题中,我想说的是,在填满盒子之前,有一个行为的抽象模型。

在开源囚徒困境中,我想说的是,在代理程序的实际程序痕迹之前,有一个合作的抽象证明。

所有这些都指向同一个方向:我们需要的是在不同时间出现的结构的粗糙抽象版本,而不是相同结构的更精细版本。也许当我们正确地允许不同层次的描述在因果链中具有不同的链接时,我们可以解开所有的时间循环。

但如何?

不幸的是,我们对时间的最好理解是Pearlian的因果关系,而Pearlian的因果关系并不适用于抽象概念。

Pearl的贝叶斯网有很多变量,但当其中一些变量是其他变量的粗糙抽象版本时,我们就必须考虑决定论,因为我们的一些变量将是彼此的决定论函数;《珍珠》的精华部分与决定论格格不入。

但问题远不止于此。如果我们在确定性函数的方向画一个箭头,我们就会画一个时间箭头,从更精确的结构到更粗略的结构,这与我们所有例子的方向相反。

也许我们可以避免将这个箭头从更精细的节点绘制到更粗糙的节点,而是使用一条从更精细的节点到更精细的节点的路径。然后我们可以复制粗糙节点的另一个副本,它肯定位于更精细节点的下游,不添加新的自由度。那么是什么阻止我们交换粗糙节点的两个副本呢?

总的来说,在我看来,Pearl还没有准备好让一些节点成为其他节点的抽象版本,我认为为了节省时间,需要对这些节点进行修复。


讨论:LessWrong