夏季MIRI更新

||新闻

在我们上一次重大的更新,我们的2017年战略更新募捐职位,我们说,我们目前的重点是技术研究和执行我们的有史以来规模最大的亚博体育官网招聘推。我们的支持者与支持令人难以置信的表演回应在今年年底,把我们一个很好的位置来执行我们的最雄心勃勃的发展计划。

在这篇文章中,我想提供一些更新我们的招聘工作和取得的成功,并宣布一些重大的捐赠和资助,我们已经收到,并提供一些其他杂项的更新。

总之,我们的重大消息有:

  1. 我们有两个新的专职研究人员亚博体育官网雇用公布。
  2. 我们已收到$ 170万主要捐助和赠款,其中1亿$通过来加拿大MIRI支持者税收优惠的基金

有关详细信息,请参阅下文。


1.成长

我很高兴地宣布两个新的研究人员对MIRI团队:亚博体育官网

巴克Shlegeris:MIRI加盟之前,巴克曾在贝宝的软件工程师,他是在Triplebyte第一个员工。此前,他曾就读于澳大利亚国立大学,主修CS和数学和物理辅修,他已经在行业会议上提出了关于数据结构的合成工作。除了他在美里的研究,巴克也与招聘帮助。亚博体育官网



本韦恩斯坦-Raun:本花费两年在克鲁斯自动化,他在那里的规划和预测工作团队的软件工程师加盟后MIRI。此前,他曾在Counsyl曾在他们的自动化基因组学实验室,并帮助发现Hacksburg,布莱克斯堡,弗吉尼亚州一众创。他毕业于弗吉尼亚理工大学,在那里他学习电脑工程学士学位。

今年,我们跑到帮几个不同的方案我们致力于实现我们的目标,聘用,以及更普遍增加的人做AI比对研究数:亚博体育官网

  1. 我们一直在共同运行一系列的邀请,只作坊与中心应用合理性(CFAR),定位于谁拥有强大的工程背景,未来潜在的雇员。与会者报告说真的很享受研讨会,我们已经发现了他们结识潜在的研究人员的聘用是非常有用的。亚博体育官网1如果您想对参加这些研讨会的一个感兴趣,发送巴克一封电邮。
  2. 我们帮助运行AI夏季奖学金项目与恒虚警。我们有申请人的大和极强的泳池,为30个时隙170的应用程序(与2017年50个应用程序的20个插槽)。该项目今年被更多的数学味比2017年,得出的结论与乱舞新的分析参与者。整体而言,该方案似乎更成功在挖掘到AI对齐的问题比往年,以及在播种参与者之间正在进行的合作更成功,参与者和工作人员MIRI之间。
  3. 我们跑了十周亚博体育官网研究实习计划这个夏天,从6月到八月。2这包括我们六名实习生参加AISFP并采取一系列的研究独立的线条,带着浓浓的焦点上平铺代理。亚博体育官网在其他活动中,实习生寻找Vingean反思预期效用最大化,蒸馏的子系统对准早期研究,并建立在亚博体育官网亚伯兰亚博体育苹果app官方下载完全类定理的方法决策理论。

在相关新闻中,我们一直在调整和发展我们的运营团队,以确保我们能很好地支持研究团队随着我们的成长。亚博体育官网亚历克斯·维米尔已作为我们的流程和项目头更广泛的支撑作用。除了他的捐助关系和筹款重点,科尔姆ÓRiain已经在我们的招聘工作作为我们成长的头采取了核心作用。亚伦Silverbook正在朝操作;我们带来了卡森琼斯作为我们新的办公室经理;和长期远程MIRI承包商吉米Rintjema现在是我们的数字基础设施的领先优势。3

2.筹款

在筹款方面,我很高兴地宣布,我们已经收到了几个主要的捐赠和资助。

首先,按照我们的$ 1.01万元捐款从2017年的匿名投资者复仇,我们已经收到了一个巨大的新的捐赠$ 1.02万从“匿名复仇投资者#2”,总部设在加拿大!此次捐赠是通过反思慈善转发由位于最近成立加拿大MIRI支持者税收优惠的基金4

二,出发管理员未来长期基金尼克Beckstead,推荐了$ 489,000授予MIRI在资金改善组织效率和员工生产力主要目的。

总之,这些捐款帮助确保我们保持我们在下面我们2017年的筹款活动的稳固的地位,因为我们试图极大地扩展我们的团队规模。我们巨大的感谢这个令人难以置信的支持,进一步感谢RC前进和中心有效利他主义帮助建立一个做出这些贡献可能的基础设施。

我们还收到了$ 15万AI安全再培训计划从开放式慈善项目授予提供津贴和指导,少数高度技术熟练的人。该计划的目的是腾出3-6个月的时间,强大的候选人再培训上花钱,让他们也可能过渡到AI对准全职工作。巴克目前选择该程序的候选人;到今天为止,我们已经取得了两笔赠款给个人。

3.其他的一些更新

该LessWrong开发团队已经推出了公测为了AI对准论坛,一个新的研究论亚博体育官网坛,技术AI安全的工作,我们已经贡献。我非常感谢LW团队承担这个项目,而且我非常期待推出新的论坛。

最后,我们就取得了实质性进展铺砖问题,我们很可能会在今年晚些时候细节。请参阅我们的三月亚博体育官网研究计划和预测写了更多关于我们的研究重点。亚博体育官网

我们对这些新的发展非常高兴,我们特别高兴能有降压和Ben的球队。我们有几个大的公告即将在不那么遥远的未来,敬请关注。


  1. 本是一个车间的参与者,最终导致他在船上来了在MIRI。
  2. 我们也有其他研究实习员在秋季加入我们。亚博体育官网
  3. 我们长期认为吉米是专职人员,但因为他在加拿大的生活,他是没有正式雇员。
  4. H / T到科尔姆设立了一些税收优惠的捐赠渠道,国际捐助者。如果你是在美国以外的一个MIRI支持者,一定要看看我们的税收优惠的捐赠页。
  5. 我们不采取正式申请,但如果你在程序中特别感兴趣或有任何疑问,欢迎您拍巴克一封电邮。