所有Miri出版物

文章

期刊文章会议/研讨会论文书籍章节技术报告/工作文件

近期及即将发表的论文

E Hubinger。2020。”构建安全的先进人工智能的11个建议概述。“arxiv:2012.07532 [CS.LG]。
E Hubinger,C Van Merwijk,V Mikulik,J Skalse和S Garrabrant。2019年。“高级机器学习系统中学习优化的风险亚博体育苹果app官方下载。“arxiv:1906.01820 [cs.ai]。
V Kosoy。2019。”授权强化学习:学习避免陷阱与一点帮助这是在ICLR的安全机器学习研讨会上发表的。
Demski和S Garrabrant, 2019。”嵌入式代理arXiv: 1902.09469 (cs.AI)。

2018

S Armstrong和S Mindermann。2018。“奥卡姆剃刀不足以推断非理性行动者的偏好。“在神经信息处理系统研究进展亚博体育苹果app官方下载31.
D Manheim和S Garrabrant, 2018。”古德哈特定律的变种分类。“arxiv:1803.04585 [cs.ai]。

2017

care。2018。“CIRL框架的不可纠正性。“arxiv:1709.06275 [cs.ai]。在AAAI / ACM关于人工智能,道德和社会会议上呈现的论文。
克码。2017年。“朝向可协商强化学习:帕累托最优顺序决策的优先级转移。“arxiv:1701.01302 [cs.ai]。
S garrabrant,t benson-tilsen,克里,n拍卖和j泰勒。2017年。“一种正式的逻辑非禁止问题的方法这篇论文发表在第16届“理性与知识的理论方面”会议上。
K Grace, J Salvatier, A Dafoe, B Zhang, O Evans. 2017。”人工智能何时能超越人类?来自人工智能专家的证据arXiv: 1705.08807 (cs.AI)。
v Kosoy。2017年。“使用不完全模型进行预测arXiv: 1705.04630 (cs.LG)。
N苏亚雷斯和B莱文斯坦。”在大马士革躲避死亡。“哲学杂志117(5):237-266。此前在第14届年度正式认识论研讨会上。
e dudkowsky和n拍了。2017年。“功能决策理论:一种新的仪器理性理论arXiv: 1710.05060 (cs.AI)。

2016

T benson-tilsen和n飙升。2016年。“正式化收敛工具目标。“纸在Aaai 2016 AI,伦理和社会研讨会上呈现。
Critch。2019。”Löb定理的参数化、资源有界推广及开源博弈论的鲁棒合作准则。“arxiv:1602.04184 [CS:gt]。象征逻辑杂志84(4):1368-1381。以前发表为“参数有界Löb定理与有界代理的鲁棒合作。“
S garrabrant,t benson-tilsen,克里,n拍卖和j泰勒。2016年。“逻辑归纳arXiv: 1609.03543 (cs.AI)。
S garrabrant,t benson-tilsen,克里,n拍卖和j泰勒。2016年。“逻辑诱导(删节)MIRI技术报告2016-2。
S Garrabrant, B Fallenstein, A Demski和N Soares. 2016。”归纳的一致性。“ARXIV:1604.05288 [CS:AI]。以前发表为“统一的一致性”。
S Garrabrant, N Soares和J Taylor, 2016。”无界时滞在线学习的渐近收敛arXiv: 1604.05280 (cs: LG)。
V Kosoy和A Appel. 2020。”最优多项式时间估计:一种贝叶斯近似算法。“arxiv:1608.04112 [CS.CC]。即将到来应用逻辑学报
J Leike, J Taylor和B Fallenstein, 2016。”真粒问题的形式化解决方案论文发表于第32届人工智能不确定性会议。
l Orseau和S阿姆斯特朗。2016年。“安全中断的药剂论文发表于第32届人工智能不确定性会议。
K Sotala。2016年。“为价值学习者定义人类价值。“纸在Aaai 2016 AI,伦理和社会研讨会上呈现。
J泰勒。2016。”量化器:有限优化的一个更安全的选择最大化。“纸在Aaai 2016 AI,伦理和社会研讨会上呈现。
J Taylor,E Yudkowsky,P Lavictoire和Chitch。2016年。“高级机器学习系统对齐亚博体育苹果app官方下载MIRI技术报告2016-1。

2015

B Fallenstein和R Kumar, 2015。”HOL的证明生成反射:模型多态性的应用。“在交互定理证明:第六届国际学术会议,中国,南京,2015年8月24-27日,会议论文集。Springer。
b fallenstein和n飙升。2015.“Vingean反思:自我完善代理的可靠推理。“Miri 2015-2技术报告。
B Fallenstein, N Soares, J Taylor. 2015。”Solomonoff诱导和AIXI的反射变异。“在AGI会议论文集2015.不可靠的人。此前作为MIRI技术报告2015-8发布。
B Fallenstein,J Taylor和P Christiano。2015.“反思神谕:古典博弈论的基础。“arxiv:1508.04145 [cs.ai]。以前发布为2015-7 2015-7的Miri技术报告。以删节形式发布为“反思性奥卡尔:人工智能博弈论的基础“在2015年LORI的诉讼程序
S Garrabrant,B Bhaskar,Demski,J Garrabrant,G Koleszarik和E Lloyd。2016年。“渐近逻辑不确定性和Benford测试。“arxiv:1510.03370 [cs.lg]。论文在第九次会议上介绍了人工综合情报。以前发布为2015-11 2015-11的Miri技术报告。
克朗。2015.“Asilomar会议:风险缓解的一个案例研究。“Miri技术报告2015-9。
克朗。2015.“leószilárd和核武器的危险:危险减缓的案例研究MIRI技术报告2015-10。
P LaVictoire。2015.“MIRI研究中Löb定理的介绍亚博体育官网MIRI技术报告2015-6。
N苏亚雷斯。2015。”将超级智能与人类兴趣相结合:注释参考书目MIRI技术报告2015-5。
N苏亚雷斯。2015。”形式化现实世界模型的两个问题。“Miri 2015-3技术报告。
n拍了。2018。“价值学习问题。“在人工智能安全和安全.查普曼和大厅。此前在IJCAI 2016年人工智能伦理研讨会上发表,并早些时候作为MIRI技术报告2015-4发表。
N Soares和B Fallenstein, 2015。”逻辑不确定性下推理问题。“Miri技术报告2015-1。
N Soares和B Fallenstein, 2015。”走向理想决策理论。“arxiv:1507.01986 [cs.ai]。以前发布为2014-7的Miri技术报告。以删节形式发布为“在确定性环境中形式化反可能推理的两种尝试“在AGI会议论文集2015
K Sotala。2015.“安全自主ai的概念学习这篇论文发表在AAAI 2015伦理与人工智能研讨会上。

2014

S Armstrong, K Sotala和S Ó hÉigeartaigh。2014年。“着名的AI预测的错误,见解和课程 - 以及他们对未来的意思。“实验与理论人工智能杂志26(3): 317 - 342。
star_icon
M Bárász, P Christiano, B Fallenstein, M Herreshoff, P LaVictoire and E Yudkowsky. 2014。”囚徒困境中的稳健合作:可证明逻辑的程序均衡。“arxiv:1401.5577 [cs.gt].
T benson-tilsen。2014年。“UDT与已知的搜索命令。“Miri 2014-4技术报告。
博斯特罗姆和尤多科夫斯基2018。”人工智能伦理。“在人工智能安全和安全.查普曼和大厅。以前发表过剑桥人工智能手册(2014)。
P Christiano。2014年。“非无所不知,概率推断和元化学。“Miri 2014-3技术报告。
B Fallenstein。2014。”概率逻辑中的拖延症工作报告。
star_icon
B Fallenstein和N Soares, 2014。”自我改善时空嵌入式智能自我引用问题。“在AGI 2014年会论文集.不可靠的人。
B Fallenstein和N Stiennon, 2014。”'响度':在偏好关系的前瞻上简短的技术说明。
P Lavictoire,B Fallenstein,E Yudkowsky,MBárász,P Christiano和M Herreshoff。2014年。“通过Löb定理求解囚徒困境中的程序均衡。“纸张在AAAI 2014年的多层互动,恕不另行协调研讨会。
L Muehlhauser和N Bostrom. 2014。”为什么我们需要友好的AI。“思考13(36): 42-47。
l Muehlhauser和B Hibbard。2014年。“AI的探索工程。“ACM的通信57(9):32-34。
舒尔曼和博斯特罗姆,2014。”胚胎选择促进认知增强:好奇心还是游戏规则改变者?全球政策5(1): 85 - 92。
N苏亚雷斯。2014。”因果图中的平铺代理。“Miri 2014-5技术报告。
n飙升和b expenstein。2014年。“Botworld 1.1。“Miri 2014-2技术报告。
N Soares和B Fallenstein, 2017。”使机器智能与人类利益对齐的Agent基础:一个技术研究议程亚博体育官网。“在技术奇点:管理旅程.不可靠的人。此前发表于MIRI 2014-8技术报告,标题为“将超级智能与人类利益挂钩:一个技术研究议程”。亚博体育官网
N Soares, B Fallenstein, E Yudkowsky和S Armstrong. 2015。”可订正这篇论文发表在AAAI 2015伦理与人工智能研讨会上。此前发表为MIRI技术报告2014-6。
e Yudkowsky。2014年。“允许分段主观欧盟最大化者的分布。“Miri 2014-1技术报告。

2013

star_icon
一安排。2013年。“关于Newcomblike问题的决策算法比较工作报告。美里。
S阿姆斯特朗,N博斯特罗姆和C舒尔曼。2015。”赛车到悬崖:人工智能发展模型。“艾和社会(DOI 10.1007 / s00146 - 015 - 0590 - 7): 1 - 6。此前发表为《人类未来研究所技术报告2013-1》。
star_icon
P Christiano,e Yudkowsky,M Herreshoff和MBárász。2013年。“概率逻辑中的“真理”的绝定”草案。美里。
B Fallenstein。2013。”5-and-10问题和平铺代理形式。“Miri 2013-9技术报告。
B Fallenstein。2013。”参数多态形式化的数学强度递减简短的技术说明。美里。
B Fallenstein。2013。”一个无限下降的声音理论序列,每一个都证明下一个一致。“Miri 2013-6技术报告。
B Fallenstein和A Mennen, 2013。”预测AGI:我们知道这么少的时候我们能说什么?“工作报告。美里。
克朗。2013年。“六个域中的算法进展。“Miri技术报告2013-3。
J哈恩。2013。”概率元数学中的科学归纳法。“Miri技术报告2013-4。
L Muehlhauser。2013。”智能爆炸常见问题解答工作报告。美里。(HTML.
star_icon
L Muehlhauser和L Helm, 2013。”智能爆炸与机器伦理。“在奇点假设.不可靠的人。
star_icon
L Muehlhauser和A Salamon, 2013。”智力爆炸:证据和进口。“在奇点假设.不可靠的人。(西班牙语) (法语) (意大利语
L Muehlhauser和C Williamson, 2013。”理想的顾问理论和个人cev工作报告。美里。
W Sawin和Demski。2013年。“可计算概率分布,它会融合在相信真正π上1句子将难以置信Π2句子MIRI技术报告2013-10。
N苏亚雷斯。2013。”Fallenstein的怪物。“Miri技术报告2013-7。
K Sotala和R Yampolskiy, 2014。”对灾难性的AGI风险的响应:调查。“Physica Scripta.90(1): 1-33。此前发表为MIRI技术报告2013-2。
N施奈尔。2013。”递归定义的逻辑理论是明确定义的。“Miri 2013-8技术报告。
R Yampolskiy和J Fox, 2013。”人工综合情报与人类心理模型。“在奇点假设.不可靠的人。
R Yampolskiy和J Fox, 2013。”人工通用智能安全工程。“Topoi32(2):217-226。
star_icon
E Yudkowsky。2013。”智能爆炸微观经济学MIRI技术报告2013-1。
E Yudkowsky。2013。”拖延悖论简短的技术说明。美里。
E . Yudkowsky和M . Herreshoff, 2013。”用于自我修饰的剪辑代理,以及呼吸障碍”草案。美里。

2012年

star_icon
S Armstrong and K Sotala, 2012。”我们如何预测AI或未能。“在超越AI:人为梦想.Pilsen:西波希米亚大学。
希巴德。2012。”避免意外的ai行为。“在AGI 2012年会论文集.不可靠的人。
希巴德。2012。”决策支持安全AI设计。“在AGI 2012年会论文集.不可靠的人。
L Muehlhauser。2012。”人工智能风险参考文献2012工作报告。美里。
Salamon和L Muehlhauser, 2012。”奇点峰会2011年研讨会报告工作报告。美里。
C Shulman和N Bostrom。2012年。“人工智能有多难?进化论与选择效应。“意识研究杂志19日(7 - 8):103 - 130。
K Sotala。2012。”人工智能、上传和数字思维的优势。“国际机械意识杂志4(1): 275 - 291。
k sotala和h valpola。2012年。“合并思维:脑上传相关的群体思维情景。“国际机械意识杂志4(1): 293 - 312。

2011年

白朗出版社,2011。”人工代理价值系统中的本体论危机亚博体育苹果app官方下载”。(cs arXiv: 1105.3821。人工智能)
D杜威。2011。”学习重视什么。“在AGI 2011年会论文集.不可靠的人。
E Yudkowsky。2011。”实现有价值的未来需要复杂的价亚博体育苹果app官方下载值体系。“在AGI 2011年会论文集.不可靠的人。

2010年

J Fox和C Shulman。2010年。“超级智能并不意味着仁慈。“在ecap2010论文集.博士-小屋。
S Kaas, S Rayhawk, A Salamon和P Salamon。”软件思维的经济含义。“在ecap2010论文集.博士-小屋。
萨拉猴,s雷希哇克和jkramár。2010年。“智力有多容易理解?“在ecap2010论文集.博士-小屋。
C Shulman。2010年。“Omohundro的“基本AI驱动”和灾难性风险工作报告。美里。
C Shulman。2010年。“全脑仿真与超级有机物的演变工作报告。美里。
舒尔曼和桑德伯格2010。”软件有限奇点的含义。“在ecap2010论文集.博士-小屋。
K Sotala。2010。”从主要是无害的文明威胁。“在ecap2010论文集.博士-小屋。
塔尔克隆。2010年。“连贯外推意志:机器伦理学的元层面方法工作报告。美里。
E Yudkowsky。2010。”永恒的决策理论工作报告。美里。
尤德科夫斯基,舒尔曼,萨拉蒙,尼尔森,卡斯,雷鹰和麦凯布。2010年。“减少人工智能的长期灾难性风险工作报告。美里。

2001 - 2009

p de blanc。2009年。“通用人工智能的预期效用收敛。“arxiv:0907.5598 [cs.ai]。
S Rayhawk,Salamon,M anissimov,T mccabe和R纳尔逊。2009年。“改变AI未来主义的框架:从讲故障的讲故事,高尺寸概率分布发表于2009年ecap2009的论文。
C Shulman和SAMBRONG。2009年。“军备控制和情报爆炸发表于2009年ecap2009的论文。
C Shulman,H Jonsson和N塔尔顿。2009年。“机器伦理和超级智能。“在AP-CAP 2009年会论文集.东京大学。
C .舒尔曼,N .塔尔顿,H .琼森,2009。”哪种关系?机器伦理和道德分歧。“在AP-CAP 2009年会论文集.东京大学。
E Yudkowsky。2008。”人工智能作为全球风险的积极和消极因素。“在全球灾难性风险.牛津大学出版社。以删节形式发布为“友好的人工智能”奇点假设.(官话) (意大利语) (한국어) (葡萄牙商业银行) (pусский.
E Yudkowsky。2008。”认知偏见可能影响全球风险的判断。“在全球灾难性风险.牛津大学出版社。(意大利语) (pусский.) (葡萄牙语
e Yudkowsky。2007年。“一般情报的组织层次。“在人工一般智能(认知技术).不可靠的人。
e Yudkowsky。2004年。“连贯的外推着工作报告。美里。
E Yudkowsky。2001。”创建友好的AI 1.0:仁慈目标架构的分析与设计工作报告。美里。

注册获取新的MIRI技术成果的更新

每次有新的技术论文发表时都会得到通知。

平衡覆盖不足

不充分的平衡:文明在哪里以及如何陷入困境

E Yudkowsky (2017)

你应该什么时候认为你可以做点什么异常好吗?当您尝试在特定区域倾销时,重要的是您对您的相对能力进行清醒的了解。这个故事只在那里结束,但是,如果你有幸居住在一起足够的文明。

以利以谢Yudkowsky的均衡不足对于那些质疑自己何时、如何能比现状了解得更好、做得更好的人来说,这本书是一本尖锐而生动的指南。尤德科夫斯基自由地将理性决策的基础与日常生活的建议结合起来,探讨了我们何时能(或不能)发现系统效率低下并加以利用的核心问题。亚博体育苹果app官方下载

RationalityCover

理性:从AI到僵尸

E Yudkowsky (2015)

当人类的大脑尝试做事时,他们可以遇到一些非常奇怪的问题。自欺欺人,确认偏见,神奇的思维 - 有时似乎我们的聪明才智在脚下射击时是无限的。

地图和领土和其余的理性:从AI到僵尸系列询问合理性的“武术”是什么样的。在本系列中,Eliezer Yudkowsky解释了认知科学的结果,以及自然主义哲学的思想,帮助为理解Miri的研究提供了一个有用的背景,并且通常接近雄心勃勃的问题。亚博体育官网

SmarterThanUsCover

比我们聪明:机器智能的兴起

阿姆斯特朗(2014)

当机器比人类变得更聪明的时候会发生什么?人类引导未来,不是因为我们是最强大的或最快的,而是因为我们是最聪明的.当机器比人类变得更聪明,我们将把它们递给方向盘。承诺 - 和危险 - 这些强大的机器是否存在?Stuart Armstrong的新书以清晰度和机智的方式导航这些问题。

面对智能爆炸

面对智能爆炸

L Muehlhauser (2013)

本世纪的某个时候,机器将超越人类的智力和能力水平。这一事件——“智慧爆炸”——将是我们历史上最重要的事件,而明智地驾驭它将是我们所能做的最重要的事情。

来自Alan TITE和I. J.善于Bill Joy和Stephen Hawking的Luminaries已经警告我们这件事。为什么我们认为霍金和公司是对的,我们能做什么?

面对智能爆炸Muehlhauser试图回答这些问题。

AI-Foom-Cover

汉森-尤多科夫斯基AI-Foom辩论

R Hanson和E Yudkowsky (2013)

2008年底,经济学家罗宾汉森和AI理论家Eliezer Yudkowsky对人工智能的未来进行了在线辩论,特别是关于一般智能AIS是否能够非常快速地改善自己的能力(A.K.a.“Foom”)。James Miller和Carl Shulman还为辩论贡献了访客帖子。

最初的争论发生在一系列的博客文章中,这里收集了这些文章。这本书还包括2011年Hanson和Yudkowsky关于这一主题的面对面辩论的文字记录,Kaj Sotala撰写的辩论摘要,以及Yudkowsky 2013年关于人工智能起飞动力学的技术报告(“智能爆炸微观经济学”)。

其他

yabo体育官网

  • 分析- MIRI在其博客上发布了一些最具实质性的研究成果。亚博体育官网
  • 对话- Miri对其研究有关的主题采访了各种各样的研究人员和知识分子。亚博体育官网

资源研究亚博体育官网