所有MIRI出版物

文章

期刊文章 会议/研讨会论文 本章 技术报告和工作报告

最近和即将发表的论文

大卫·曼海姆和斯科特·加拉布兰特。2018。”” Goodhart定律变量的分类”。arXiv:1803.04585[cs.AI]。

二千零一十七

瑞安·凯莉。2018。”” 屡教不改的黄道眉鹀框架”。arXiv: 1709.06275 (cs.AI)。在AAAI/ACM人工智能会议上提交的论文,道德、以及社会。
安德鲁·克里奇。2017.”” 可协商强化学习:帕累托最优序贯决策中的优先权转移”。arXiv:1701.01302[cs.AI]。
斯科特·加拉布兰特,Tsvi Benson-Tilsen,安德鲁·克里奇,内特·苏亚雷斯和杰西卡·泰勒。2017.”” 逻辑非全知性问题的形式化探讨”。在第16届理性与知识理论大会上发表的论文。
卡贾·格雷斯,约翰•Salvatier艾伦·达福宝宝,和Owain埃文斯。2017.”” 当将人工智能超过人类表现?人工智能专家的证据”。arXiv:1705.08807(cs.AI)。
Vadim Ko.。2017.”” 使用不完整的模型预测”。arXiv:1705.04630[cs.LG]。
内特·苏亚雷斯和本·莱文斯坦。2017.”” 欺骗死亡在大马士革”。论文发表于第14届正式认识论车间。
以利以谢Yudkowsky和内特·苏亚雷斯。2017.”” 功能决策理论:一种新的工具理性理论”。arXiv:1710.05060(cs.AI)。

2016

Tsvi Benson-Tilsen和内特·苏亚雷斯。2016.”” 将趋同的工具目标形式化”。在AAAI 2016 AI上提交的论文,道德与社会研讨会。
安德鲁·克里奇。2016.”” 参数有界Lob定理和健壮的有界合作代理”。arXiv:1602.04184[cs:GT]。
斯科特·加拉布兰特,Tsvi Benson-Tilsen,安德鲁·克里奇,内特·苏亚雷斯和杰西卡·泰勒。2016.”” 逻辑归纳”。arXiv:1609.03543[cs.AI]。
斯科特·加拉布兰特,Tsvi Benson-Tilsen,安德鲁·克里奇,内特·苏亚雷斯和杰西卡·泰勒。2016.”” 逻辑归纳(简略)”。MIRI技术报告2016-2。
斯科特·加拉布兰特,本亚·法伦斯坦,亚伯兰Demski,和内特·苏亚雷斯。2016.”” 电感相干性”。arXiv:1604.05288[cs:AI]。以前公布的“统一的一致性。””
斯科特·加拉布兰特,内特·苏亚雷斯和杰西卡·泰勒。2016.”” 渐近收敛与无限延迟在线学习”。arXiv:1604.05280(cs:LG)。
Vadim Ko.。2016.”” 最优多项式时间估计:贝叶斯近似算法的概念”。arXiv:1608.04112[cs.CC]。
Jan Leike杰西卡·泰勒,和Benya Fallenstein。2016.”” 真理的一个正式的解决粮食问题”。第32会议上发表的论文中不确定性人工智能。
Laurent Orseau和斯图亚特·阿姆斯特朗。2016.”” 安全可中断代理”。第32会议上发表的论文中不确定性人工智能。
Kaj Sotala。2016.”” 定义价值的人类价值观的学习者”。在AAAI 2016 AI上提交的论文,道德与社会研讨会。
杰西卡·泰勒。2016.”” Quantilizers:一个更安全的替代极大化者有限的优化”。在AAAI 2016 AI上提交的论文,道德与社会研讨会。
杰西卡·泰勒,尤多夫斯基,帕特里克•LaVictoire还有安德鲁·克里奇。2016.”” 先进机器学习系统的对准亚博体育苹果app官方下载”。米里技术报告2016 - 1。

2015

Benja Fallenstein Kumar和拉。2015.”” HOL的证明-生成反射:及其在模型多态性中的应用”。在 交互式定理证明:第6届国际会议,2015年国际旅游业伙伴关系,南京中国8月24日,2015年,程序。不可靠的人。
本杰·法伦斯坦和内特·苏亚雷斯。2015.”” Vingean反射:可靠的理由自我完善的代理”。米里技术报告2015 - 2。
Benja Fallenstein,内特·苏亚雷斯和杰西卡·泰勒。2015.”” 反光Solomonoff诱导和AIXI的变体”。在 学报2015年美国国际集团.不可靠的人。以前出版米里技术报告2015 - 8。
Benja Fallenstein,杰西卡·泰勒,还有保罗·克里斯蒂诺。2015.”” 反光的神谕:经典博弈理论的基础”。arXiv:1508.04145(cs.AI)。以前公布,米里技术报告2015 - 7所示。以节略形式出版为” 反射神谕:人工智能博弈论的基础”在里面 LORI学报》2015.
斯科特·加拉布兰特,悉达斯·巴斯卡,亚伯兰Demski,乔安娜•Garrabrant乔治·科莱萨里克,和艾凡劳埃德。2016.”” 渐近逻辑不确定性和本福德测试”。arXiv:1510.03370(cs.LG)。论文发表于人工总体智能第九次会议。此前作为MIRI 2015-11技术报告发表。
卡佳恩典。2015.”” 艾斯洛玛尔会议:一个案例研究在风险降低”。MIRI技术报告2015-9。
卡佳恩典。2015.”” Le Szilrd与核武器危险:风险缓和案例研究”。MIRI 2015-10技术报告。
帕特里克·拉维托瓦。2015.”” 介绍Lob定理在米里的研究亚博体育官网”。MIRI 2015-6年技术报告。
内特·苏亚雷斯。2015.”” 将超智能与人类利益结合起来:一个有注释的书目”。米里技术报告2015 - 5。
内特·苏亚雷斯。2015.”” 形式化的现实世界模型的两个问题”。MIRI 2015-3技术报告。
内特·苏亚雷斯。2018。”” 值的学习问题”。在 人工智能安全.查普曼和霍尔。以前在IJCAI 2016人工智能伦理学研讨会,展出与早些时候发表米里技术报告2015 - 4。
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和。2015.”” 逻辑不确定性下的推理问题”。米里技术报告2015 - 1。
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和。2015.”” 对理想化的决策理论”。arXiv:1507.01986(cs.AI)。此前作为MIRI技术报告发布的2014-7。以节略形式出版为” 两个试图Counterpossible形式化推理确定设置”在里面 学报2015年美国国际集团.
Kaj Sotala。2015.”” 概念学习安全自治AI”。在AAAI 2015伦理和人工智能研讨会上提交的论文。

二千零一十四

斯图尔特·阿姆斯特朗,Kaj Sotala,以及Sen_higeartaigh。2014.”” 错误,著名人工智能预测的见解和教训——及其对未来的意义”。” 《实验与理论的人工智能26(3):317 - 342。
star_icon
Mihaly Barasz,保罗•globalBenja Fallenstein,马塞洛赫列斯果夫倍烧,帕特里克•LaVictoire还有伊利泽·尤德考斯基。2014.”” 健壮的囚徒困境:合作项目平衡通过只是逻辑”。arXiv:1401.5577(cs.GT).
Tsvi Benson-Tilsen。2014.”” UDT与已知的搜索顺序”。MIRI技术报告2014-4。
尼克·博斯特罗姆和Yudkowsky以利以谢。2018。”” 人工智能的伦理”。在 人工智能安全.查普曼和霍尔。先前发表在 人工智能的剑桥手册(2014)。
保罗global。2014.”” Non-Omniscience,概率推理,和元数学”。MIRI技术报告2014-3。
Benja Fallenstein。2014.”” 概率逻辑中的拖延”。工作报告。
star_icon
本杰·法伦斯坦和内特·苏亚雷斯。2014.”” 自我参照完善时空嵌入式智能的问题”。在 学报2014年美国国际集团.不可靠的人。
本杰·法伦斯坦和尼桑·斯蒂农。2014.”” “大声”:论优先于偏好关系”。简要技术说明。
帕特里克•LaVictoireBenja Fallenstein,尤多夫斯基,Mihaly Barasz,保罗·克里斯蒂诺和马塞罗·赫雷肖夫。2014.”” 计划均衡的囚徒困境通过Lob的定理”。在AAAI 2014没有事先协调研讨会上提交的论文。
路加福音Muehlhauser和尼克·博斯特罗姆。2014.”” 为什么我们需要友好的人工智能”。” 思考13(36):42-47。
路加福音Muehlhauser和比尔希巴德。2014.”” 勘探工程的人工智能”。” ACM的通信57(9):尺码。
卡尔•舒尔曼和尼克·博斯特罗姆。2014.”” 胚胎选择认知增强:好奇心还是改变??”” 全球政策5(1):85-92。
内特·苏亚雷斯。2014.”” 因果图中的分片剂”。米里技术报告2014 - 5。
我住在曼谷宾佳Fallenstein内特·苏亚雷斯和。2014.”” 博特沃德1.1”。MIRI技术报告2014-2。
内特·苏亚雷斯和本亚·法伦斯坦。2017.”” 代理基础调整机器智能与人类利益:一个技术研究议程亚博体育官网”。在 技术奇点:管理的旅程.不可靠的人。以前出版米里技术报告2014 - 8的名字”调整超智与人类利益:技术研究议程”。亚博体育官网”
内特·苏亚雷斯Benja Fallenstein,尤多夫斯基,还有斯图尔特·阿姆斯特朗。2015.”” 可订正”。在AAAI 2015伦理和人工智能研讨会上提交的论文。此前作为MIRI技术报告发布的2014-6。
以利以谢Yudkowsky。2014.”” 分布允许花砖上演了主观欧盟极大化者”。米里技术报告2014 - 1。

2013

star_icon
亚历克斯牵牛星。2013。”” 新梳状问题的决策算法比较”。工作报告。美里。
斯图尔特·阿姆斯特朗,尼克·博斯特罗姆,和卡尔·舒尔曼。2015.”” 争先恐后的人工智能发展模式”。” 人工智能与社会(DOI 10.1007 / s00146 - 015 - 0590 - 7):1 - 6。以前出版的未来人类研究所技术报告2013 - 1。
star_icon
保罗•global尤多夫斯基,马塞洛赫列斯果夫倍烧,Mihaly Barasz。2013。”” “定义”真相”概率逻辑学”。汇票。美里。
Benja Fallenstein。2013。”” 5到10的问题和瓷砖代理形式”。米里技术报告2013 - 9。
Benja Fallenstein。2013。”” 减少数学的力量在一个形式化参数多态性”。简要技术说明。美里。
Benja Fallenstein。2013。”” 无限着每下行的声音序列理论证明一致”。米里技术报告2013 - 6。
Benja Fallenstein和亚历克斯Mennen。2013。”” 预测AGI:当我们知道得那么少时,我们能说什么??”工作报告。美里。
卡佳恩典。2013。”” 六领域算法进展”。MIRI技术报告2013-3。
杰里米·哈恩。2013。”” 科学归纳概率元数学”。米里技术报告2013 - 4。
路加福音Muehlhauser。2013。”” 智能爆炸常见问题解答”。工作报告。美里。( HTML
star_icon
卢克Muehlhauser和路易。2013。”” 智能爆炸与机器伦理”。在 奇点假设.不可靠的人。
star_icon
卢克·穆勒豪泽和安娜·萨拉蒙。2013。”” 爆炸的情报:证据和导入”。在 奇点假设.不可靠的人。( 西班牙语法语意大利语
路加福音Muehlhauser和克里斯•威廉森。2013。”” 理想顾问理论与个人CEV”。工作报告。美里。
将Sawin和亚伯兰Demski。2013。”” 可计算的概率分布收敛于Π相信如此1句子会不信真Π2句子”。米里技术报告2013 - 10。
内特·苏亚雷斯。2013。”” Fallenstein的怪物”。米里技术报告2013 - 7。
卡伊·索塔拉和罗马·扬波斯基。2014.”” 应对灾难性的美国国际集团风险:一项调查”。” 物理评论90(1):1-33。此前作为MIRI技术报告2013-2发表。
尼森施奈尔。2013。”” 递归地定义逻辑理论是定义良好的”。米里技术报告2013 - 8。
罗马·扬波斯基和约书亚·福克斯。2013。”” 人工智能与人类心理模型”。在 奇点假设.不可靠的人。
罗马·扬波斯基和约书亚·福克斯。2013。”” 安全工程人工总体智能”。” Topoi32(2):217-226。
star_icon
以利以谢Yudkowsky。2013。”” 智能爆炸微观经济学”。MIRI技术报告2013-1。
以利以谢Yudkowsky。2013。”” 拖延悖论”。简要技术说明。美里。
尤多夫斯基和赫雷斯霍夫。2013。”” 瓷砖变为无效来人工智能代理,和Lobian障碍”。汇票。美里。

2012

star_icon
斯图尔特·阿姆斯特朗和卡伊·索塔拉。2012.”” 我们如何预测人工智能——或者没有”。在 超越人工智能:人工的梦想.皮尔森:西方大学波西米亚。
比尔希巴德。2012.”” 避免意外人工智能行为”。在 学报2012年美国国际集团.不可靠的人。
比尔希巴德。2012.”” 安全人工智能设计的决策支持”。在 学报2012年美国国际集团.不可靠的人。
路加福音Muehlhauser。2012.”” AI风险目录2012”。工作报告。美里。
安娜·萨拉蒙和卢克·穆勒豪泽。2012.”” 奇点峰会2011年研讨会报告”。工作报告。美里。
卡尔•舒尔曼和尼克·博斯特罗姆。2012.”” 人工智能有多难?进化论争与选择效应”。” 《意识研究19(7-8):103-130。
Kaj Sotala。2012.”” 人工智能的优势,上传,和数字头脑”。” 国际机器意识杂志4(1):275 - 291。
Kaj Sotala和Harri Valpola。2012.”” 聚合思维:与脑上传相关的群体思维场景”。” 国际机器意识杂志4 (1):293 - 312。

二千零一十一

彼得·德·布兰科。2011。”” 本体论危机在人工代理商的价值体系亚博体育苹果app官方下载”。arXiv: 1105.3821 (cs.AI)
丹尼尔·杜威。2011。”” 学习什么价值”。在 学报2011年美国国际集团.不可靠的人。
以利以谢Yudkowsky。2011。”” 复杂的价值系统需要实现价值的亚博体育苹果app官方下载期货”。在 学报2011年美国国际集团.不可靠的人。

2010

约书亚·福克斯和卡尔·舒尔曼。2010.”” 超智慧并不意味着仁慈”。在 ECAP学报》2010.-博士。小屋。
史蒂文·卡斯,史蒂夫•Rayhawk安娜·萨拉蒙,还有彼得·萨拉蒙。2010.”” 软件思想的经济含义”。在 ECAP学报》2010.-博士。小屋。
安娜·萨拉蒙,史蒂夫•Rayhawk和Janos Kramar。2010.”” 情报是如何理解??”在 ECAP学报》2010.-博士。小屋。
卡尔·舒尔曼。2010.”” Omohundro的“基本人工智能驱动”与灾难风险”。工作报告。美里。
卡尔·舒尔曼。2010.”” 整个大脑仿真和超级有机体的进化”。工作报告。美里。
卡尔·舒尔曼和安德斯·桑德伯格。2010.”” Software-Limited奇异点的影响”。在 ECAP学报》2010.-博士。小屋。
Kaj Sotala。2010.”” 从无害到文明威胁”。在 ECAP学报》2010.-博士。小屋。
塔尔顿家尼克。2010.”” 连贯的推断意志:元级别机器伦理方法”。工作报告。美里。
以利以谢Yudkowsky。2010.”” 永恒决策理论”。工作报告。美里。
尤多夫斯基,卡尔·舒尔曼,安娜·萨拉蒙,罗尔夫·尼尔森史蒂文·卡斯,史蒂夫•Rayhawk和汤姆·麦凯布。2010.”” 降低人工智能带来的长期灾难性风险”。工作报告。美里。

2001 - 2009

彼得·德·布兰科。2009。”” 收敛的期望效用普遍的人工智能”。arXiv:0907.5598(cs.AI)。
史蒂夫•Rayhawk安娜·萨拉蒙,迈克尔·安尼斯莫夫托马斯·麦凯比,和罗尔夫·纳尔逊。2009。”” 改变AI未来主义的框架:从故事到重尾分布,高维概率分布”。论文发表于ECAP 2009。
卡尔·舒尔曼和斯图尔特·阿姆斯特朗。2009。”” 军备控制和智能爆炸”。论文发表于ECAP 2009。
卡尔·舒尔曼,亨利克·琼森,还有尼克·塔尔顿。2009。”” 机器伦理和超智”。在 美联社2009年年报.东京大学。
卡尔·舒尔曼,尼克·塔尔顿还有亨利克·约翰逊。2009。”” 哪一种结果主义?机器伦理与道德分化”。在 美联社2009年年报.东京大学。
以利以谢Yudkowsky。2008。”” 人工智能作为全球风险的正负因素”。在 全球灾难风险.牛津大学出版社。以节略形式出版为友好的人工智能”在里面 奇点假设.( 官话意大利语한국어葡萄牙语Pу́сский
以利以谢Yudkowsky。2008。”” 认知偏见可能影响全球风险的判断”。在 全球灾难风险.牛津大学出版社。( 意大利语Pу́сский葡萄牙语
以利以谢Yudkowsky。2007。”” 一般智力的组织水平”。在 人工智能(认知技术).不可靠的人。
以利以谢Yudkowsky。2004.”” 连贯的推断意志”。工作报告。美里。
以利以谢Yudkowsky。2001.”” 创造友好的AI 1.0:仁慈的目标架构的分析和设计”。工作报告。美里。

注册获取新的米里技术的结果

每次发表新的技术论文时都要得到通知。

平衡覆盖不足

不平衡:文明在哪里和如何陷入困境

以利以谢Yudkowsky(2017)

当你认为你可以做些什么异常吗??当你试图超越给定的区域,重要的是你有一个清醒的了解你的相对能力。这个故事只有结束,然而,如果你幸运地生活在一个足够的文明。

以利以谢Yudkowsky的不平衡一把锋利的明快指南对于任何质疑何时以及如何知道更好,做得更好,比现状要好。自由辩论的基础上混合理性决策与日常生活小贴士,Yudkowsky探讨了一个中心问题,即我们何时可以(也不能)期望发现系统性低效率,亚博体育苹果app官方下载并利用他们。

RationalityCover

理性:从人工智能到僵尸

Eliezer Yudkowsky(2015)

理性到底意味着什么?没有好莱坞式”理性的,”其中一个拒绝所有人类感觉拥抱冷硬逻辑——真正的理性,心理学家的研究,社会科学家,和数学家。你作出正确决定的那种理性,即使是很困难的;你的理由,即使面对巨大的不确定性。

理性:从人工智能到僵尸,以利以谢Yudkowsky解释了认知科学的研究成果,以及自然主义哲学的思想,这有助于激发MIRI的研究项目存在的动机。亚博体育官网

SmarterThanUsCover

比我们聪明:机器智能的兴起

斯图尔特·阿姆斯特朗(2014)

当机器变得比人类更聪明时会发生什么?人类引导未来不是因为我们最强的或最快的,但因为我们的最聪明的.当机器变得比人类聪明,我们会把方向盘交给他们。这些强大的机器会带来什么希望和危险?斯图尔特·阿姆斯特朗的新书清晰而机智地探讨了这些问题。

面对智能爆炸

面对智能爆炸

路加福音Muehlhauser(2013)

这个世纪的某个时候,机器将超过人类的智慧和能力水平。这个事件-情报爆炸——是我们历史上最重要的事件,和导航明智地将我们能做最重要的事情。

名人从阿兰·图灵和我。J好比尔欢乐和斯蒂芬·霍金警告我们。为什么我们认为霍金和公司是正确的,和我们能做些什么呢??

面对智能爆炸穆勒豪泽试图回答这些问题。

ai-foom-cover

的Hanson-Yudkowsky AI-Foom辩论

罗宾·汉森以利以谢Yudkowsky(2013)

2008年底,经济学家罗宾·汉森和人工智能理论家艾丽泽·尤德考斯基就人工智能的未来进行了一次在线辩论,特别是关于一般智能人工智能是否能够非常迅速地提高其自身的能力(又名a.a.”福姆)。詹姆斯·米勒和卡尔·舒尔曼的争论也贡献了客座文章。

最初的争论发生在一系列的博客文章中,这里收集。这本书还包括一份2011年的记录。面对面辩论汉森和Yudkowsky之间在这个问题上,Kaj Sotala撰写的辩论摘要,以及2013年关于AI起飞动态的技术报告智力爆炸微观经济学)Yudkowsky写的。

其他

yabo体育官网

  • 分析——美里在其博客上发布一些最实质性的研究。亚博体育官网
  • 对话——米里采访多样化研究人员和知识分子主题相关的研究。亚博体育官网

研究人员资源亚博体育官网