亚博体育官网研究研讨会

2018年7月20日至22日- 伯克利,加利福尼亚州

第2次研讨会AI对准方法


人类兼容的AI中心本周末研讨会从Miri和UC Berkeley汇集了研究实习生亚博体育官网人类兼容的AI中心(柴)讨论AI安全研究中的概念基础和公开问题。亚博体育官网

2017年11月18日至18日- 伯克利,加利福尼亚州

1ST AI对准方法的第一次研讨会


本周末研讨会汇集了对理解和探索Miri之间的交叉口的研究人员亚博体育官网yabo live 亚博体育官网研究议程和保罗基斯蒂亚诺的研究亚博体育官网

2017年4月1日至2日- 伯克利,加利福尼亚州

机器学习和AI安全的第四次研讨会


人工智能杂志该研讨会将研究人员与机器学习背景汇集在一起​​,以便在经常机器亚博体育官网学习系统和框架中建模的长期AI安全问题,例如“亚博体育苹果app官方下载AI安全的具体问题“ 和 ”高级机器学习系统对齐亚博体育苹果app官方下载“。

该研讨会部分由授予资助人工智能杂志

2017年3月25日至26日- 伯克利,加利福尼亚州

代理基础和AI安全的研讨会


这两天的周末研讨会将研究人员汇集在长期理论的AI安全研究中。亚博体育官网研讨会涵盖了当前AI安全研究议程和项目的背景和内容(重点是Miri的亚博体育官网yabo live )。它是为拥有技术背景的研究人员而努力,亚博体育官网谁以前没有与Miri广泛工作过。

2016年12月1日至3日- 伯克利,加利福尼亚州

机器学习和AI安全的第三次研讨会


这个小型为期三天的工作坊,将研究人员汇集了机器学习背景,可以在长期的AI安全问题上工作,可以在亚博体育官网当前的机器学习系统和框架中建模,例如“亚博体育苹果app官方下载AI安全的具体问题“ 和 ”高级机器学习系统对齐亚博体育苹果app官方下载“。

包括主题使用共享嵌入的零拍摄学习,之间的差异量化和正规化,生成的对抗网络和古特哈尔的法律,以及数学形式保守概念学习

2016年11月11日至13日- 伯克利,加利福尼亚州

第9次研讨会逻辑,概率和反思


在这个三天的研讨会上的参与者 - 其中大多数过去研讨会的退伍军人 - 致力于与miri的各种问题致力于yabo live

主题包括丰富的域名安全探索,预测人类和预测HCH之间的差异, 和由其他决策理论产生的决策理论自我修改

2016年10月21日至23日- 伯克利,加利福尼亚州

第二讲台机械学习和AI安全研讨会


这个小型为期三天的工作坊,将研究人员汇集了机器学习背景,可以在长期的AI安全问题上工作,可以在亚博体育官网当前的机器学习系统和框架中建模,例如“亚博体育苹果app官方下载AI安全的具体问题“ 和 ”高级机器学习系统对齐亚博体育苹果app官方下载“。

主题包括与不同的本体的概念学习,任务AGI的问题审查的陈述, 和保守概念

2016年8月26日至28日- 伯克利,加利福尼亚州

1次机械学习和AI安全研讨会


这个为期三天的研讨会将研究人员与机器学习背景汇集在一起​​,以便在经常机器学习系统亚博体育官网和框架中建模的长期AI安全问题,例如“亚博体育苹果app官方下载AI安全的具体问题“ 和 ”高级机器学习系统对齐亚博体育苹果app官方下载“。

主题包括学习人类解释和环境的因果模型;基于影响措施的工程成本函数抑制副作用;设计强大的指标,以质量的据称解释计划;并制定古老的法律的正式模型,产生温和优化。

2016年8月12日至14日- 伯克利,加利福尼亚州

逻辑,概率和反射的第8次研讨会


在这个研讨会上的参与者 - 所有这些研讨会的退伍军人 - 致力于与miri相关的各种问题yabo live ,专注于决策理论和正式建设的逻辑反应性。

2016年6月17日- 伯克利,加利福尼亚州

CSRBAI Agent Models和多功能困境的研讨会


二十名参与者参加了机构,包括:
  • USC创意技术研究所
  • 卡尔顿大学
  • 人文研究所的未来
  • 卡内基·梅隆大学
  • 哈佛
  • 牛津大学
  • 伦敦大学学院
  • 澳大利亚国立大学
  • UC Berkeley.
  • UT AUSTIN.
  • 普林斯顿大学
  • 哥伦比亚大学

坚固且有益的AI上的Colloquium系列包括一系列研讨会,以促进对对与AI稳健性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和合作。

第四次研讨会CSRBAI.专注于在其环境中表现良好的设计代理的主题,而不忽略代理人自己的行为对环境的影响或环境中的其他代理商。

2016年6月11日至12日- 伯克利,加利福尼亚州

CSRBAI关于偏好规范的研讨会


二十名参与者参加了机构,包括:
  • 澳大利亚国立大学
  • 伦敦大学学院
  • 存在风险研究中心
  • 牛津大学
  • 人文研究所的未来
  • 卡内基·梅隆大学
  • 瑞士AI实验室IDSIA
  • 澳大利亚国立大学
  • UC Berkeley.
  • 布朗大学
  • 蒙特利尔大学
  • USC创意技术研究所

坚固且有益的AI上的Colloquium系列包括一系列研讨会,以促进对对与AI稳健性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和合作。

第三次研讨会CSRBAI.专注于高度有能力的AI系统的偏好规范主题,其中希望代码“做我的意思,而不是我所说的”的多年生问题变得越来越具有挑战性。亚博体育苹果app官方下载

2016年6月4日至5日- 伯克利,加利福尼亚州

CSRBAI研讨会鲁棒性和误差


来自机构的十四名参与者,包括:
  • 伦敦大学学院
  • 存在风险研究中心
  • 谷歌
  • 人文研究所的未来
  • 卡内基·梅隆大学
  • 澳大利亚国立大学
  • UC Berkeley.
  • 瑞士AI实验室IDSIA
  • 康奈尔大学
  • USC创意技术研究所

坚固且有益的AI上的Colloquium系列包括一系列研讨会,以促进对对与AI稳健性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和合作。

第二次研讨会CSRBAI.专注于AI系统中的稳健性和误差的主题,以及如何确保当AI系统失败时,它们优雅和可检测地失败。亚博体育苹果app官方下载

2016年5月28日至29日- 伯克利,加利福尼亚州

CSRBAI透明度研讨会


二十名参与者参加了机构,包括:
  • 俄勒冈州立大学
  • 澳大利亚国立大学
  • 人文研究所的未来
  • 卡内基·梅隆大学
  • IBM研亚博体育官网究
  • 蒙特利尔学习算法研究所
  • 谷歌研究亚博体育官网
  • 斯坦福大学
  • 谷歌
  • UC Berkeley.
  • 伦敦大学学院
  • 哈佛
  • 生命研究所的未来

坚固且有益的AI上的Colloquium系列包括一系列研讨会,以促进对对与AI稳健性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和合作。

第一个研讨会CSRBAI.专注于AI系统中透明度的主题,以及我们如何在维护能力的同时提高透明度。亚博体育苹果app官方下载

2016年4月1日至3日- 伯克利,加利福尼亚州

自我参考,类型理论和正式验证


参与者在型理论和自动定理普罗瓦斯中的自我引用问题上致力于研究自己的系统。亚博体育苹果app官方下载

2015年8月28日至30日- 伯克利,加利福尼亚州

逻辑决策理论第三次介绍性研讨会


这是一系列介绍性研讨会的第六次,其中Miri将研究人员汇集在一起​​不同的背景,讨论了其中一个的公开问题亚博体育官网技术议程主题,并开始在该地区的项目和合作。

这个研讨会的主题是决策理论此外,在下面的帖子中讨论了研讨会上的项目:证明长度和逻辑反贪性重新审视

2015年8月7日至9日- 伯克利,加利福尼亚州

第2介绍逻辑不确定性研讨会


这是一系列介绍研讨会的第五个,Miri将研究人员汇集在一起​​不同的背景,讨论了其中一个的公开问题亚博体育官网技术议程主题,并开始在该地区的项目和合作。

这个研讨会的主题是逻辑不确定性此外,在下面的帖子中讨论了研讨会上的项目:无论如何,有什么逻辑的一致性?

2015年6月26日至28日- 伯克利,加利福尼亚州

第一个介绍式讲习班上的Vingean反思


这是一系列入门研讨会的第四个,其中Miri将研究人员汇集在一起​​不同的背景,讨论了其中一个的公开问题亚博体育官网技术议程主题,并开始在该地区的项目和合作。

这个研讨会的主题是视频反思此后讨论了研讨会的项目,并在以下帖子中讨论:

2015年6月12日至14日- 伯克利,加利福尼亚州

第2次逻辑决策理论介绍研讨会


这是一系列介绍性研讨会的第三个,其中Miri将研究人员汇集在一起​​,与不同的背景,讨论了其中一个的公开问题亚博体育官网yabo live 主题,并开始在该地区的项目和合作。

这个研讨会的主题是决策理论此外,在下面的帖子中讨论了研讨会上的项目:有限和无限壳体的固定点定理

5月29日至31日,2015年- 伯克利,加利福尼亚州

第一个逻辑不确定性介绍性研讨会


这是一系列介绍性研讨会的第二个,Miri将研究人员汇集在一起​​,与不同的背景一起讨论了其中一个的公开问题亚博体育官网yabo live 主题,并开始在该地区的项目和合作。

这个研讨会的主题是逻辑不确定性此后讨论了研讨会的项目,并在以下帖子中讨论:

5月4日至6日,2015年- 伯克利,加利福尼亚州

逻辑决策理论第一介绍型研讨会


这是一系列介绍研讨会中的第一个,其中Miri将研究人员汇集在一起​​有不同的背景,讨论了其中一个的公开问题亚博体育官网yabo live 主题,并开始在该地区的项目和合作。

这个研讨会的主题是决策理论此后讨论了研讨会的项目,并在以下帖子中讨论:

5月3日至11日,2014年- 伯克利,加利福尼亚州

第7次研讨会逻辑,概率和反思


在这次研讨会上的参与者 - 所有这些过去的研讨会的退伍军人 - 致力于与友好AI相关的各种问题。来自此研讨会的第一报告可用这里

2013年12月14日至20日- 伯克利,加利福尼亚州

第6次研讨会逻辑,概率和反思


这个研讨会的参与者专注于Löbian障碍概率逻辑,以及更常见的逻辑和概率。描述了该研讨会的结果这里。查看研讨会的照片这里

2013年11月23日至29日- 英国牛津

第五次逻辑,概率和反思研讨会


参与者在这个研讨会上调查了与之相关的问题反光剂概率逻辑, 和逻辑陈述的前瞻/逻辑不现实的问题。本研讨会的一些结果在2013年12月研讨会上进一步开发并描述了这里

2013年9月7日至13日- 伯克利,加利福尼亚州

第四次研讨会逻辑,概率和反思


sepember_workshop_1_300px.这个研讨会专注于与...相关的各种开放问题规范决策理论。参与者在该地区集思广益,建于浪漫遗料等人。的Löbian合作工作,在正式化方面取得了一些进展不可更快的决策理论,并制定额外的玩具问题,如Ultimate Newcomb的问题

这些结果仍然以各种形式写成。

2013年7月8日至14日- 伯克利,加利福尼亚州

第三次研讨会逻辑,概率和反思


sepember_workshop_2_300px.这个研讨会专注于与...相关的各种问题Löbian自我修改系统的障碍亚博体育苹果app官方下载,并德斯基早期的工作逻辑事先概率。主要结果是试图创建在π上进行科学感应的概率分布的证据1对此类语句的真实版本的概率1会聚到概率1,可以创建分配给真π的零限制概率2陈述。这个结果仍在写成,但它已被简单地讨论一个博客文章通过demski。在进一步的研讨会上开发了其他进展并描述了这里

2013年4月3日至24日- 伯克利,加利福尼亚州

第二次研讨会逻辑,概率和反思


这个三周的研讨会同时解决了多个开放研究问题。亚博体育官网首先,参与者发现了一种改进版本反思原则在上一个研讨会中发现,尽管这一进步仍在写成。其次,参与者通过Lavictoire提前改进,造成论文“囚犯困境中的强大合作:通过可证明逻辑计划均衡。“第三,参与者改善了Benya Fallenstein的参数多态性方法解决这一点Löbian自我修改系统的障碍亚博体育苹果app官方下载

2012年11月11日至18日- 伯克利,加利福尼亚州

逻辑,概率和反射的第一次研讨会


这个研讨会追求了一系列攻击Löbian自我修改系统的障碍亚博体育苹果app官方下载。该研讨会的主要结果是Tarski对真理的不确定性(通过固定点定理)中的非建设性的“漏洞”,后来以草案形式写成“概率逻辑中的真理绝定“(见讨论这里这里, 和这里)。