我们的2018年筹款活动正在进行中!!

寻找类型理论与机亚博体育官网器自参照研究员

γγ新闻

机器智能研究所(MIRI)正在接受一个全职研究员的亚博体育官网申请,以开发具有自我参照能力的定理证明器,首先在该语言中实现强类型语言。这个研究项目的目的是帮助我们理解能亚博体育官网够证明关于具有相似演绎能力的系统的定理的自治系统。亚博体育苹果app官方下载申请人应具有函数式编程语言编程经验,优先使用依赖类型的语言,比如阿格达,Coq或者精益。

MIRI是一个数学和计算机科学研究机构,专门从事长期人工智能安全和鲁棒性工作。亚博体育官网我们的办公室在伯克利,加利福尼亚,在加州大学伯克利分校附近yabo体育官网。

类型理论中的类型理论

我们这个项目的目标是构建用于在软件系统中更好地建模反射式推理的工具,亚博体育苹果app官方下载和我们的项目一样HOL4证明助手内部建模.Gdelian有理由认为自我参照推理不可能完全概括起来。然而,许多不能完全概括地解决的现实世界任务允许采用有效的一般或启发式方法。人类,例如,当然,在很多情况下,他们相信自己的推理是成功的。

现代定理证明中缺少许多工具,这些工具将有助于研究自指推理。首先是定理证明器,它可以利用非常相似的定理证明器构造关于软件系统的证明。亚博体育苹果app官方下载要用强类型编程语言构建这些工具,我们需要从编写程序和证明开始,这些程序和证明可以引用同一语言的程序和证明的类型。

类型理论中的类型理论最近受到相当多的关注。詹姆斯·查普曼的作品正朝着与我们想要的相似的方向前进,如马特·布朗和詹斯·帕斯伯格,但是这些项目还没有提供我们需要的工具。(对于我们的目的来说,F-的逻辑太弱了,像查普曼的方法不能让我们自我表现。)

这是一个独立的研究项目,亚博体育官网尽管可能出现与其他研究人员的一些合作。亚博体育官网我们预期这将是一个多年的项目,但是,很难准确预测这项任务提前的难度。它可能比看起来容易,或者更加困难。

根据项目的进展情况,亚博体育官网有兴趣在本项目完成后继续与我们合作的研究人员可能能够在我们的其他部分进行合作亚博体育官网研究议程或者提出他们自己加入我们的计划。

在MRI工作

我们努力使MIRI的工作成为一个伟大的经验。以下是我们的操作方式:

  • 现代工作空间。我们中的许多人都有可调的立式办公桌,带有大型外部监视器。我们认为工作空间人机工程学很重要,尽量把工作站布置得舒适些。免费小吃,饮料,我们办公室还提供伙食。
  • 灵活的时间。这是一个带薪职位。我们没有严格的办公时间,我们不限制员工的假期。我们的目标是在我们的事业上取得快速进展。亚博体育官网研究议程,我们更希望研究人员休一天假,而不是延长任务来填补额亚博体育官网外的一天。
  • 住在海湾地区。MIRI的办公室位于伯克利市中心,加利福尼亚。从我们的办公室,您要步行30秒到BART(湾区快速交通),可以带你游览海湾地区;步行3分钟到加州大学伯克利分校;yabo体育官网乘30分钟的巴特车到旧金山市中心。
  • 旅行援助。如有需要,可提供签证协助。如果你要搬到海湾地区,我们多付3美元,500元搬迁费。我们还提供每月大额津贴的公共交通通行证。

这个职位的工资可以商量,并带来一流的健康和牙科福利。

关于米里

MIRI是基于伯克利的非营利性研究机构,研究人工智亚博体育官网能中的基本问题。我们的目标是确保高质量的决策系统在未来几十年中具有积极的全球影响。亚博体育苹果app官方下载MIRI研亚博体育官网究顾问和人工智能先驱斯图尔特·拉塞尔轮廓关注高性能AI软件的几个原因:

  1. 效用函数可能与人类的价值不完全一致,最多很难确定。
  2. 任何具有足够能力的智能系统都希望确保自身的持续存在并获取物理和计算资源——亚博体育苹果app官方下载而不是为了它们自己,但是为了完成分配的任务。

正在亚博体育苹果app官方下载优化以下功能的系统n变量,其中目标取决于大小子集K<n,将剩余的无约束变量设置为极值;如果这些无约束变量之一是我们真正关心的,所发现的解决方案可能是非常不理想的。

我们的重点是过于复杂和自主的系统亚博体育苹果app官方下载,以至于软件开发人员无法预测系统和其环境可能演变为的所有可能状态。为了安全地使用这些系统,亚博体育苹果app官方下载软件工程师需要深入理解他们的行为,并能够使用机器分析和验证技术来确认高级系统性能。亚博体育苹果app官方下载

MIRI是专门从事这一技术研究的主要机构。亚博体育官网我们的工作在亚博体育官网鲁棒性和效益性人工智能的研究重点报告,在尼克·博斯特罗姆的超智能罗素和诺维格人工智能:一种现代方法.

长期的人工智能安全是一个迅速发展的研究领域,最近得到了公众的重视。亚博体育官网我们目前的研究旨在为这一亚博体育官网新领域提供理论基础,以指导今后的研究方向。

如何应用

点击这里申请。