类型理论与机器自亚博体育官网参考研究

||新闻

机器智能研究所(MIRI)正在接受一名全职研究员的亚博体育官网申请,以开发具有自指能力的定理证明器,首先在该语言中实现一种强类型语言。这个研究项目的目的是帮助我们理解自治系统,它可以证明关于具有相似演绎能力的系统的定理。申请人应具有函数式编程语言的编程经验,优先选择具有依赖类型的语言,如Agda、Coq或Lean。亚博体育苹果app官方下载

MIRI是一个数学和计算机科学研究所,专门从事长期的人工智能安全性和健壮性工作。我们的亚博体育官网办公室在加州伯克利,靠近加州大学伯克利分校。yabo体育官网

类型理论中的类型理论

我们这个项目的目标是为软件系统中更好地建模反射推理而构建工具,就像我们的项目一样亚博体育苹果app官方下载在其内部模拟HOL4校样助手. 有哥德利亚的理由认为,自我参照推理不可能完全普遍。然而,许多无法完全通用地解决的现实任务都承认了有效的、大多数是通用的或启发式的方法。例如,在许多情况下,人类肯定会成功地相信自己的推理。

现代定理证明中缺少许多有助于研究自指推理的工具。首先是定理证明器,它可以构造使用非常相似的定理证明器的软件系统的证明。要用强类型编程语言构建这些工具,我们需要从编写可以引用同一语言中的程序和证明类型的程序和证明开始。亚博体育苹果app官方下载

类型理论中的类型理论最近受到了相当多的关注。查普曼的作品正朝着我们想要的方向前进马特·布朗和詹斯·帕尔斯伯格的,但是这些项目还没有提供我们需要的工具。(对于我们的目的来说,F-omega的逻辑太弱了,而查普曼的方法不能让我们自我表述。)

这是一个独立的研究项目,尽管可能会与其他研究人员进行一些合作。我们的预期是,亚博体育官网这将是一个多年期的项目,但很难事先准确预测这项任务有多困难。它可能比看上去容易,或者实际上更难。

根据项目进展情况,有兴趣在项目完成后继续与我们合作的研究人员可以在我们亚博体育官网的其他部分进行合作亚博体育官网研究议程或者建议他们加入我们的计划。

在MIRI工作

我们努力使在米里工作成为一次伟大的经历。我们的运作方式如下:

  • 现代工作空间。我们中的许多人都有可调节的立式办公桌和大型外部显示器。我们认为工作空间的人体工程学很重要,并试图装配工作站尽可能舒适。我们办公室还提供免费的小吃、饮料和饭菜。
  • 弹性工作时间。这是一个领薪水的职位。我们没有严格的办公时间,也不限制员工的假期。我们的目标是在亚博体育官网研究议程我们更希望研究人员休息一天,而不是延长任务以填补额外的亚博体育官网一天。
  • 住在湾区。米里的办公室位于加州伯克利市中心。从我们的办公室出发,您可以步行30秒到达BART(湾区快速交通),它可以带您游览湾区;步行3分钟到达加州大学伯克利分校;乘坐30分钟的BART到达旧金山市中心。yabo体育官网
  • 旅行援助。如有需要,可提供签证援助。如果你要搬去湾区,我们将支付高达3500美元的搬家费用。我们还提供一张公共交通通行证,每月有大笔津贴。

这个职位的薪水是可以商量的,而且有一流的健康和牙科福利。

关于米莉

MIRI是一家总部位于伯克利的非营利研究机构,研究亚博体育官网人工智能的基本问题。我们的目标是确保高质量的决策系统在未来几十年对全球产生积极影响。MIRI研究顾问和人工智能先驱Stuart Russell亚博体育苹果app官方下载轮廓关于高性能人工智能软件的几个问题:

  1. 效用函数可能与人类的价值观不完全一致,人类的价值观(充其量)很难确定。
  2. 任何一个有足够能力的智能系统都会倾向于确保其自身的持续存在,并获取物理和计亚博体育苹果app官方下载算资源——不是为了它们自己,而是为了成功地完成其分配的任务。

一个亚博体育苹果app官方下载正在优化n个变量,其中目标取决于大小的子集<n个,通常会将剩余的无约束变量设置为极值;如果其中一个无约束变量实际上是我们所关心的,则找到的解决方案可能非常不受欢迎。

我们的重点是过于复杂和自治的系统亚博体育苹果app官方下载,软件开发人员无法预测系统及其环境可能演变成的所有可能状态。为了安全地使用这些系统,软件工程师将需要深入了解他们的行为,并且能够使用机器分析和验证技术来确认高级系统属性。

MIRI是专门从事这方面技术研究的主要组织。我们的工作在亚博体育官网亚博体育官网稳健有益的人工智能研究重点报告,已经在尼克·博斯特罗姆的报告中讨论过了超智能罗素和诺维格的人工智能:一种现代方法.

长期人工智能安全是一个迅速发展的研究领域,最近受到了公众的极大关注。我们目前的研究旨在为这一新领域提亚博体育官网供理论基础,有助于指导未来的研究方向。

如何申请

点击这里申请。