什么是智慧?

||分析

当问及他们的意见对“人类水平的人工智能” -又名“强人工智能”(AGI)1-许多专家可以理解地回答说,这些术语还没有被精确地定义,很难谈论还没有定义的东西。2在这篇文章中,我想简要提纲不精确但有用“的工作定义”情报我们倾向于在MIRI使用。在以后的文章中,我会写一些有用的工作定义强人工智能

不精确的定义可以是有益的

精确的定义是重要的,但我与罗素是同意

[你不能]开始与任何精确。你必须要达到这样的精度...你一起去。

物理学家米兰Ćirković同意和一个例子:

知识的正规化——包括给出精确的定义——通常在某一特定领域的原始研究结束时进行,而不是一开始。亚博体育官网一个特别有启发性的例子是……的概念直到20世纪公理化集合论的发展才给它下了一个现代意义上的正确定义。3

为了更AI-相关的例子,考虑其已被赋予了各种模糊的定义,一个概念“自驾车”自20世纪30年代。将一辆汽车由地下电缆引导资格吗?关于什么1955年修改斯图特贝克这可以用声波探测障碍物,并在必要时自动接合刹车,但只能引导“自行”,如果每回合被预编程?这是否算作“自驾车”?

怎么样呢 ”VaMoRs”,可以避开障碍物,并使用计算机视觉引导各地轮流,但均不够先进,以准备好公共道路上世纪80年代的?如何在1995年Navlab汽车横跨美国开车,是完全独立的行程的98.2%,或无人驾驶汽车,其完成了132英里的越野课程2005年DARPA大挑战,只提供与路线的GPS坐标?有关的获奖汽车什么2007年DARPA大挑战,这同时遵守所有交通法规,避免与其他车辆碰撞完成一个城市的种族?不谷歌的无人驾驶汽车有资格,因为它记录了超过50万的自主英里而不在计算机控制下一个意外,但困难的合并和雪覆盖的道路仍在努力?4

我们缺乏对“自驾车”一个准确的定义似乎并不阻碍了对自动驾驶汽车的进步非常多。我很高兴我们没有等来认真讨论自动驾驶汽车,直到我们不得不为期限的精确定义。

同样,我认为我们不应该等待AGI的精确定义认真讨论的话题了。在另一方面,该术语是无用的,如果它携带没有信息。因此,让我们以自己的方式向为AGI一个规定性,操作性定义。我们将通过制定一个可操作的定义开始情报

一种“智能”的定义

莱格和胡特(2007)研究发现,智能的定义趋向于这样一种观点:“智能衡量的是个体在各种环境中实现目标的能力。”让我们把这称为智能的“优化能力”概念,因为它衡量的是一个智能体根据自己的喜好优化世界的能力。

我认为这是一个生产方式问题,因为它标识与外部可测量情报性能而不是细节怎么样,业绩可能实现(例如,通过意识,蛮力计算“复杂性”或别的东西)。此外,它通常是性能我们关心:我们往往最关心的AI是否将表现良好,足以代替人类的工人,或者是否将执行不够好,提高自己的能力,无需人工辅助,而不是它是否有一些特殊的内部特征。6

此外,优化权力的概念使我们能够比较不同种类的药物的情报。至于阿不思(1991年)表示,“智力的一个有用的定义......应包括生物和机的实施方式,这些应跨越从昆虫到一个爱因斯坦的知识范围内,从一个恒温器,最先进的计算机系统,该系统中的亚博体育苹果app官方下载可能永远不会建造“。

我想补充一个考虑,虽然。如果哪两个代理有根据自己的喜好来优化世界大致相等的能力,但第二剂需要更多的资源这样做?这些药物有相同的优化功率,但第一个似乎更智能的方式优化。因此,也许我们可以使用“智能”意味着“优化电力资源被分为使用” - 什么叫Yudkowsky高效跨域优化7

其他定义8有其优点,太。但在MIRI我们发现的“高效跨域优化”足够有用的概念,它作为我们(仍然不精确!)负责情报工作的定义。

在未来的岗位(编辑这里),我将讨论一些有用的工作定义强人工智能


  1. I use the HLAI and AGI interchangeably, but lately I’ve been using AGI almost exclusively, because I’ve learned that many people in the AI community react negatively to any mention of “human-level” AI but have no objection to the concept of narrow vs. general intelligence. See also Ben Goertzel’s comments这里
  2. 当被问及他认为HLAI将被创建,帕特·海斯(前任会长AAAI回答:“我不认为这个问题可以回答,因为我不接受这样的(普通)‘人类水平的智能’有意义的概念。”问同样的问题,AI科学家威廉乌瑟尔回答:“你问了很多关于‘人的水平AGI’。我不认为这个词是明确界定“,而AI科学家艾伦·邦迪回答:“我不认为‘人类水平的机器智能’良好形成的概念。”
  3. 索耶(1943)给出了另一个例子:“数学家首先用符号√-1,没有在最不知道是什么,这可能意味着,因为它缩短了工作,导致正确的结果。人们自然试图找出为什么会这样,什么√-1的真正含义。经过两百年他们成功了。”丹尼特(2013)使得相关注释:“定义你的条件,先生!不,我不会。我的方法就是一个例子在一个棘手的问题,而不是试图从一开始吃(消化)整个事情...在肘部的房间,我比我的方法在大理石块粗加工的形式,小心翼翼地接近最后面,谦虚,通过逐次逼近工作的雕塑家的方法“。
  4. 对于自动驾驶汽车,研究人员确实使用了许多精确的外亚博体育官网部性能指标(例如事故率、速度、他们可以独立运行的时间的一部分、陷入困境的频率)来评估进展,以及内部性能指标(搜索速度、有限损失保证等)。亚博体育官网研究人员可以看到这些进步是朝着正确的方向发展的,尽管他们的长期贡献还不清楚。一般的AI也是如此。人工智亚博体育官网能研究人员使用许多精确的外部和内部性能度量来评估进展,但是很难知道这些进展对AGI的最终目标的相对贡献。
  5. 几千年哎呀,我们已经有色情和仍然一直无法精确地定义它。对于“色情”百科词条经常简单的报价Potter Stewart法官:“我不会今天试图进一步界定各种材质的我的理解是[色情] ...但我知道当我看到它。”
  6. 我们可能会在意机器是否除了是聪明的意识,但我们已经有一个方便的术语:意识。特别是,我们可能会在意机器的意识,因为AI的缓慢,单调乏味的发明可能涉及数以百万计部分意识的近认可的被接通的创建和销毁,苦一阵子,然后被关闭 - 同时暂时无法来通知我们,他们的痛苦。这是特别容易,如果我们仍不清楚关于意识的本质未来几十年,因此没有原则的方式(例如,通过nonperson谓词)创建智能机,我们知道没有意识到(并因此不能痛苦)。其中第一个人做这点显然是Metzinger (2003)页。621:“你会怎么说,如果有人走过来,说,“嘿,我们希望基因工程智力迟钝的人儿!For reasons of scientific progress we need infants with certain cognitive and emotional deficits in order to study their postnatal psychological development—we urgently need some funding for this important and innovative kind of research!’ You would certainly think this was not only an absurd and appalling but also a dangerous idea. It would hopefully not pass any ethics committee in the democratic world. However, what today’s ethics committees don’t see is how the first machines satisfying a minimally sufficient set of constraints for conscious experience could be just like such mentally retarded infants. They would suffer from all kinds of functional and representational deficits too. But they would now also subjectively experience those deficits. In addition, they would have no political lobby—no representatives in any ethics committee.” Metzinger repeats the point in麦琴根(2010)开始,194页。
  7. 诚然,这仍然是相当模糊的。对精度的一个步骤将是提出智力的定义,优化电源可能喜好的一些典型分布,在环境中的一些典型分布,资源利用点球。该规范的喜好和规范的环境中可能对个人偏好进行加权和环境有关我们的关切:我们更关心的认可机构是否能做到科学比他们是否可以画抽象艺术,而我们更关心他们是否能实现自己的目标在我们的太阳系亚博体育苹果app官方下载比他们是否能实现黑洞里他们的目标。另请参阅格策尔(2010)的‘高效务实的一般智力。’
  8. 希巴德(2011);莱格及俯伏(2011);王(2008);Schaul等。(2011年);有人仍然&埃尔南德斯-Orallo(2012);格策尔(2010);亚当斯等人。(2011年)

你喜欢这个帖子吗?您可以享受我们的其他分析职位,其中包括: