亚博体育官网研究研讨会

2018年7月20日至22日加州伯克利分校

第2次研讨会AI对准方法


人类兼容的AI中心这个周末的研讨会汇集了来自麻省理工学院和加州大学伯克利分校的研究实习生亚博体育官网人类兼容的AI中心(柴)讨论AI安全研究中的概念基础和公开问题。亚博体育官网

2017年11月18日至18日加州伯克利分校

第一次人工智能对齐方法研讨会


本周末研讨会汇集了对理解和探索Miri之间的交叉口的研究人员亚博体育官网yabo live 亚博体育官网研究议程和保罗global的研究亚博体育官网

2017年4月1 - 2日,加州伯克利分校

第四届机器学习与人工智能安全研讨会


人工智能杂志本次研讨会汇集了具有机器学习背景的研究人员,研究可以在当前机器亚博体育官网学习系统和框架中建模的长期人工智能安全问题,例如“亚博体育苹果app官方下载人工智能安全的具体问题”和“高级机器学习系统对齐亚博体育苹果app官方下载”。

该研讨会部分由授予资助人工智能杂志

2017年3月25日至26日,加州伯克利分校

代理基础和AI安全的研讨会


这个为期两天的周末研讨会汇集了对长期人工智能安全理论研究感兴趣的研究人员。亚博体育官网研讨会涵盖了当前人工智能安全研究议程和项目的背景和内容(重点是MIRI)亚博体育官网yabo live ).它面向的是具有技术背景、以前没有广泛亚博体育官网从事MIRI工作的研究人员。

2016年12月1 - 3日加州伯克利分校

机器学习和AI安全的第三次研讨会


这个小型为期三天的工作坊,将研究人员汇集了机器学习背景,可以在长期的AI安全问题上工作,可以在亚博体育官网当前的机器学习系统和框架中建模,例如“亚博体育苹果app官方下载人工智能安全的具体问题”和“高级机器学习系统对齐亚博体育苹果app官方下载”。

议题包括使用共享嵌入的零机会学习,之间的差异quantilization和正规化,生成的对抗网络和古特哈尔的法律,以及数学形式保守概念学习

2016年11月11 - 13日,加州伯克利分校

第9次研讨会逻辑,概率和反思


参加这个为期三天的研讨会的人——大多数是以前研讨会的老手——研究了与MIRI有关的各种问题yabo live

主题包括丰富领域的安全探索,预测人类和预测六氯环己烷的区别,由其他决策理论产生的决策理论自我修改

2016年10月研讨会,加州伯克利分校

第二讲台机械学习和AI安全研讨会


这个小型为期三天的工作坊,将研究人员汇集了机器学习背景,可以在长期的AI安全问题上工作,可以在亚博体育官网当前的机器学习系统和框架中建模,例如“亚博体育苹果app官方下载人工智能安全的具体问题”和“高级机器学习系统对齐亚博体育苹果app官方下载”。

主题包括与不同的本体的概念学习,任务AGI的问题审查的陈述,保守的观念

2016年8月26 - 28日期间,加州伯克利分校

第一届机器学习和人工智能安全研讨会


这个为期三天的研讨会将研究人员与机器学习背景汇集在一起​​,以便在经常机器学习系统亚博体育官网和框架中建模的长期AI安全问题,例如“亚博体育苹果app官方下载人工智能安全的具体问题”和“高级机器学习系统对齐亚博体育苹果app官方下载”。

主题包括学习环境的人类可解释和因果模型;基于影响措施的工程造价功能,抑制副作用;为计划解释的质量设计健壮的度量标准;并发展了古德哈特定律的形式模型,得到了温和的优化。

2016年8月12 - 14,加州伯克利分校

逻辑,概率和反射的第8次研讨会


这次研讨会的参与者都是以前研讨会的老手,他们研究了与MIRI有关的各种问题yabo live ,重点是决策理论和逻辑反事实的正式构建。

2016年6月17日加州伯克利分校

CSRBAI智能体模型与多智能体困境研讨会


二十名参加者来自下列机构:
  • USC创意技术研究所
  • 卡尔顿大学
  • 人文研究所的未来
  • 卡内基·梅隆大学
  • 哈佛
  • 牛津大学
  • 伦敦大学学院
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • UT AUSTIN.
  • 普林斯顿大学
  • 哥伦比亚大学

坚固且有益的AI上的Colloquium系列包括一系列研讨会,以促进对对与AI稳健性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和合作。

第四车间CSRBAI专注于设计在其环境中表现良好的代理的主题,而不忽略代理自身的行为对环境或环境中其他代理的影响。

2016年6月11日至12日加州伯克利分校

CSRBAI优惠规格研讨会


二十名参加者来自下列机构:
  • 澳大利亚国立大学
  • 伦敦大学学院
  • 存在风险研究中心
  • 牛津大学
  • 人文研究所的未来
  • 卡内基·梅隆大学
  • 瑞士人工智能实验室IDSIA
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 布朗大学
  • 蒙特利尔大学
  • USC创意技术研究所

坚固且有益的AI上的Colloquium系列包括一系列研讨会,以促进对对与AI稳健性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和合作。

第三个工作坊CSRBAI专注于高能力AI系统的偏好规范的主题,在这个主题中,希望代码“做我想做的,而不是我说的”的长期问题变得越来越具有挑战性。亚博体育苹果app官方下载

2016年6月4 - 5,加州伯克利分校

CSRBAI研讨会鲁棒性和误差


十四名参加者来自下列机构:
  • 伦敦大学学院
  • 存在风险研究中心
  • 谷歌
  • 人文研究所的未来
  • 卡内基·梅隆大学
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 瑞士人工智能实验室IDSIA
  • 康奈尔大学
  • USC创意技术研究所

坚固且有益的AI上的Colloquium系列包括一系列研讨会,以促进对对与AI稳健性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和合作。

第二次研讨会CSRBAI专注于AI系统中的健壮性和容错性,以及如何确保当AI系统失败时,它们优雅地、可检测地失败。亚博体育苹果app官方下载

2016年5月28 - 29日,加州伯克利分校

中国证监会透明度研讨会


二十名参加者来自下列机构:
  • 俄勒冈州立大学
  • 澳大利亚国立大学
  • 人文研究所的未来
  • 卡内基·梅隆大学
  • IBM研亚博体育官网究
  • 蒙特利尔学习算法研究所
  • 谷歌研究亚博体育官网
  • 斯坦福大学
  • 谷歌
  • 加州大学伯克利分校
  • 伦敦大学学院
  • 哈佛
  • 生命的未来学院

坚固且有益的AI上的Colloquium系列包括一系列研讨会,以促进对对与AI稳健性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和合作。

第一个工作坊CSRBAI重点讨论了人工智能系统的透明度,以及我们如何在保持能力的同时增加透明度。亚博体育苹果app官方下载

2016年4月1 - 3日加州伯克利分校

自我参照、类型理论和形式验证


参与者在型理论和自动定理普罗瓦斯中的自我引用问题上致力于研究自己的系统。亚博体育苹果app官方下载

2015年8月28 - 30日加州伯克利分校

第三届逻辑决策理论导论研讨会


这是一系列介绍性研讨会的第六次,在这里,MIRI将不同背景的研究人员聚集在一起,讨论一个开放的问题亚博体育官网技术议程主题,并开始了该领域的项目和合作。

这次研讨会的主题是决策理论此外,在下面的帖子中讨论了研讨会上的项目:证明长度和逻辑反事实重述

2015年8月7日至9日加州伯克利分校

第二届逻辑不确定性介绍性研讨会


这是一系列介绍性研讨会的第五次,在这里,MIRI将不同背景的研究人员聚集在一起,讨论了一个开放的问题亚博体育官网技术议程主题,并开始了该领域的项目和合作。

这次研讨会的主题是逻辑的不确定性此外,在下面的帖子中讨论了研讨会上的项目:逻辑一致性到底有什么用?

2015年6月26 - 28日期间,加州伯克利分校

第一个介绍式讲习班上的Vingean反思


这是一系列介绍性研讨会的第四次,在这里,MIRI召集了不同背景的研究人员,讨论了一个开放的问题亚博体育官网技术议程主题,并开始了该领域的项目和合作。

这次研讨会的主题是视频反思,工作坊开始的项目将在以下文章中讨论:

2015年6月12日至14日加州伯克利分校

第二届逻辑决策理论导论研讨会


这是一系列介绍性研讨会的第三次,在这里,MIRI将不同背景的研究人员聚集在一起,讨论了一个开放的问题亚博体育官网yabo live 主题,并开始了该领域的项目和合作。

这次研讨会的主题是决策理论此外,在下面的帖子中讨论了研讨会上的项目:有限和无限情况下的不动点定理

2015年5月29日到31日加州伯克利分校

第一次逻辑不确定性介绍性研讨会


这是一系列介绍性研讨会的第二次,在这里,MIRI将不同背景的研究人员聚集在一起,讨论了一个开放的问题亚博体育官网yabo live 主题,并开始了该领域的项目和合作。

这次研讨会的主题是逻辑的不确定性,工作坊开始的项目将在以下文章中讨论:

5月4日至6日,2015年加州伯克利分校

第一次逻辑决策理论介绍性研讨会


这是一系列介绍研讨会中的第一个,其中Miri将研究人员汇集在一起​​有不同的背景,讨论了其中一个的公开问题亚博体育官网yabo live 主题,并开始了该领域的项目和合作。

这次研讨会的主题是决策理论,工作坊开始的项目将在以下文章中讨论:

2014年5月3-11,伯克利分校,

第7次研讨会逻辑,概率和反思


这次研讨会的参与者——他们都是过去研讨会的老手——研究了与Friendly AI相关的各种问题。这个研讨会的第一份技术报告是可用的在这里

2013年12月14到20,伯克利分校,

第六届逻辑、概率与反思研讨会


这个研讨会的参与者专注于Lobian障碍概率逻辑,逻辑和概率的交集更普遍。介绍了本次研讨会的成果在这里.见工作坊照片在这里

2013年11月23-29,- 英国牛津

第五届逻辑、概率与反思研讨会


研讨会的参与者调查了与反光剂概率逻辑,优先于逻辑语句/逻辑全知问题。该研讨会的一些成果在2013年12月的研讨会上得到进一步发展并进行了描述在这里

2013年9月7 - 13日伯克利分校,

第四届逻辑、概率与反思研讨会


september_workshop_1_300px这个研讨会专注于与...相关的各种开放问题规范决策理论.参与者以LaVictoire等人的课程为基础,对该领域中“合适的问题”进行头脑风暴Lobian合作工作,在正式化方面取得了一些进展updateless决策理论,并制定了附加的玩具问题,如最终纽科姆的问题

这些结果仍然以各种形式写成。

2013年7月8 - 14,伯克利分校,

第三次研讨会逻辑,概率和反思


sepember_workshop_2_300px.这个研讨会专注于与...相关的各种问题Löbian是自我修改系统的障碍亚博体育苹果app官方下载,以及Demski早期的研究合理的先验概率.主要结果是试图创建在π上进行科学感应的概率分布的证据1对此类语句的真实版本的概率1会聚到概率1,可以创建分配给真π的零限制概率2语句。这一结果仍在撰写中,但已在一篇博客文章通过demski。在进一步的研讨会上开发了其他进展并描述了在这里

2013年4月3日至24日伯克利分校,

第二届逻辑、概率与反思研讨会


这个为期三周的研讨会同时讨论了多个开放的研究问题。亚博体育官网首先,参与者发现了一个改进的版本反射原理在上一个研讨会中发现,尽管这一进步仍在写成。其次,参与者通过Lavictoire提前改进,造成论文“囚徒困境中的稳健合作:可证明逻辑的程序均衡第三,参与者在本雅·法伦斯坦的基础上有所进步参数多态性方法解决这一点Löbian是自我修改系统的障碍亚博体育苹果app官方下载

2012年11月11到18门,伯克利分校,

逻辑,概率和反射的第一次研讨会


这个车间在Löbian是自我修改系统的障碍亚博体育苹果app官方下载.该研讨会的主要结果是Tarski对真理的不确定性(通过固定点定理)中的非建设性的“漏洞”,后来以草案形式写成“概率逻辑中真理的可定义性“(见讨论在这里在这里,在这里).