亚博体育官网研究讲习班

7月20 - 22日举行,2018伯克利分校,加州

二车间在AI对齐方法


中心Human-Compatible人工智能这个周末研讨会汇集了从米里和加州大学伯克利分校的研究实习生亚博体育官网中心Human-Compatible人工智能讨论人工智能安全研究的概念基础和尚待解决的问题。亚博体育官网

11月18日至19日,二千零一十七伯克利分校,加州

1号车间在AI对齐方法


这个周末的研讨会聚集了有兴趣了解和探索MIRI的交叉点的研究人员。亚博体育官网代理基础亚博体育官网研究议程和保罗global的研究亚博体育官网.

4月1 - 2日,二千零一十七伯克利分校,加州

4号车间对机器学习和人工智能安全


人工智能杂志这个车间召集了机器学习背景的研究人员致力于长期人工智能安全问题亚博体育官网可以建模在当前机器学习系统和框架,亚博体育苹果app官方下载例如,在““具体问题在人工智能的安全“和““先进机器学习系统的对准亚博体育苹果app官方下载“.

这个车间的部分资金资助的人工智能杂志.

3月25日至26日,二千零一十七伯克利分校,加州

代理基础和人工智能安全讲习班


这个为期两天的周末研讨会聚集了对长期理论人工智能安全研究感兴趣的研究人员。亚博体育官网车间覆盖当前人工智能的上下文和内容安全研究议程和项目(关注美里的亚博体育官网代理基础技术议程)。这是针对研究人员有技术背景和先前没有亚博体育官网为美里做了大量的工作。

12月1日至3日,二千零一十六伯克利分校,加州

第三车间对机器学习和人工智能安全


这个小三天的研讨会汇集了机器学习背景的研究人员致力于长期人工智能安全问题可以建模在当前机器学习亚博体育官网系统和框架,亚博体育苹果app官方下载例如,在““具体问题在人工智能的安全“和““先进机器学习系统的对准亚博体育苹果app官方下载“.

议题包括使用共享嵌入的零镜头学习,之间的差异quantilization以及正规化,生成性对抗网络与古德哈特定律和数学主要的保守的概念学习.

11月11日至13日,二千零一十六伯克利分校,加州

9日研讨会的逻辑,概率,和反思


参与者在这个为期三天的研讨会——他们中的大多数退伍军人过去的车间从事各种米里的相关的问题代理基础技术议程.

议题包括安全探索丰富的领域,,预测人类和预测HCH的区别,和其他决策理论衍生的决策理论.

10月研讨会,二千零一十六伯克利分校,加州

二车间对机器学习和人工智能安全


这个小三天的研讨会汇集了机器学习背景的研究人员致力于长期人工智能安全问题可以建模在当前机器学习亚博体育官网系统和框架,亚博体育苹果app官方下载例如,在““具体问题在人工智能的安全“和““先进机器学习系统的对准亚博体育苹果app官方下载“.

主题包括不同本体的概念学习,,问题任务AGI通讯社,,审查过的陈述,和保守的观念.

8月26 - 28日期间,二千零一十六伯克利分校,加州

1号车间对机器学习和人工智能安全


这为期三天的研讨会汇集了机器学习背景的研究人员致力于长期人工智能安全问题可以建模在亚博体育官网当前机器学习系统和框架,亚博体育苹果app官方下载例如,在““具体问题在人工智能的安全“和““先进机器学习系统的对准亚博体育苹果app官方下载“.

课程包括学习人类可解释的环境模型和因果模型;工程造价函数基于影响措施来抑制此副作用;设计可靠的质量指标计划的一个传说的解释;和发展一个正式的古德哈特定律产生轻微的优化模型。

8月12日至14日,二千零一十六伯克利分校,加州

第八次逻辑讲习班,概率,和反思


这次研讨会的与会者-他们都是过去研讨会的老手-就与MIRI有关的各种问题开展了工作。代理基础技术议程,着重于决策理论和逻辑反事实的形式化构建。

6月17日二千零一十六伯克利分校,加州

CSRBAI研讨会代理模型和多主体困境


来自机构的20名与会者包括:
  • 南加州大学创新技术学院
  • 卡尔顿大学
  • 人类的未来研究所
  • 卡内基梅隆大学
  • 哈佛
  • 牛津大学
  • 伦敦大学学院
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 德州大学奥斯汀分校
  • 普林斯顿大学
  • 哥伦比亚大学

这个讨论会的健壮和有益的AI系列包括一系列讲习班,以促进对与AI健壮性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和协作。

第四个讲习班CSRBAI关注的主题设计人员在他们的环境中表现良好,不忽略代理自己的操作对环境或环境内的其他代理的影响。

6月11日至12日,二千零一十六伯克利分校,加州

CSRBAI研讨会偏好规范


来自机构的20名与会者包括:
  • 澳大利亚国立大学
  • 伦敦大学学院
  • 存在风险研究中心
  • 牛津大学
  • 人类的未来研究所
  • 卡内基梅隆大学
  • 瑞士IDSIA AI实验室
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 布朗大学
  • 蒙特利尔大学
  • 南加州大学创新技术学院

这个讨论会的健壮和有益的AI系列包括一系列讲习班,以促进对与AI健壮性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和协作。

第三车间CSRBAI关注的话题偏好规范高度能力的人工智能系统,亚博体育苹果app官方下载其中长期存在的需要代码的问题照我的意思去做,不是我说的变得越来越具有挑战性。

6月4 - 5,二千零一十六伯克利分校,加州

CSRBAI车间在鲁棒性和大的容错度


14个参与者参加了从机构包括:
  • 伦敦大学学院
  • 存在风险研究中心
  • 谷歌
  • 人类的未来研究所
  • 卡内基梅隆大学
  • 澳大利亚国立大学
  • 加州大学伯克利分校
  • 瑞士IDSIA AI实验室
  • 康奈尔大学
  • 南加州大学创新技术学院

这个讨论会的健壮和有益的AI系列包括一系列讲习班,以促进对与AI健壮性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和协作。

第二讲习班CSRBAI关注的话题AI系统的鲁棒性和大的容错度,亚博体育苹果app官方下载以及如何确保当AI系统失败时,亚博体育苹果app官方下载他们不优雅地和明显。

5月28 - 29日,二千零一十六伯克利分校,加州

CSRBAI研讨会透明度


来自机构的20名与会者包括:
  • 俄勒冈州立大学
  • 澳大利亚国立大学
  • 人类的未来研究所
  • 卡内基梅隆大学
  • IBM的亚博体育官网研究
  • 蒙特利尔学习算法研究所
  • 谷歌研究亚博体育官网
  • 斯坦福大学
  • 谷歌
  • 加州大学伯克利分校
  • 伦敦大学学院
  • 哈佛
  • 未来生活的研究所

这个讨论会的健壮和有益的AI系列包括一系列讲习班,以促进对与AI健壮性和可靠性相关的技术挑战的多种不同方法感兴趣的人之间的对话和协作。

第一个车间CSRBAI关注的话题透明度在人工智能系统中,亚博体育苹果app官方下载以及如何提高透明度,同时保持能力。

4月1 - 3,二千零一十六伯克利分校,加州

自我参照,类型理论,以及正式核实


参与者在自我指涉的问题类型理论和自动化定理验证,其目的是研究自己建模的系统。亚博体育苹果app官方下载

8月28日至30日,2015伯克利分校,加州

第三介绍逻辑决策理论研讨会


这是系列介绍性研讨会中的第六次,MIRI汇集了不同背景的研究人员,亚博体育官网公开讨论的一个问题技术议程话题,并开始项目和在这一领域的合作。

这个研讨会的主题决策理论,和项目开始在车间进行了以下职位:证明长度与逻辑反事实

8月7号到9号,2015伯克利分校,加州

第二届逻辑不确定性介绍讲习班


这是第五个在一系列的研讨会,MIRI汇集了不同背景的研究人员,亚博体育官网公开讨论的一个问题技术议程话题,并开始项目和在这一领域的合作。

这个研讨会的主题逻辑的不确定性,和项目开始在车间进行了以下职位:逻辑一致性是什么呢??

6月26 - 28日期间,2015伯克利分校,加州

1日入门研讨会Vingean反射


这是系列介绍性研讨会中的第四次,MIRI汇集了不同背景的研究人员,亚博体育官网公开讨论的一个问题技术议程话题,并开始项目和在这一领域的合作。

这个研讨会的主题文根反射,和项目开始在车间进行了以下职位:

6月12日至14日,2015伯克利分校,加州

第二介绍逻辑决策理论研讨会


这是第三次在一系列的工作坊,MIRI汇集了不同背景的研究人员,亚博体育官网公开讨论的一个问题技术议程话题,并开始项目和在这一领域的合作。

这个研讨会的主题决策理论,和项目开始在车间进行了以下职位:不动点定理在有限和无限的情况

可能29-31,2015伯克利分校,加州

1日入门研讨会逻辑的不确定性


这是系列介绍性研讨会中的第二次,MIRI汇集了不同背景的研究人员,亚博体育官网公开讨论的一个问题技术议程话题,并开始项目和在这一领域的合作。

这个研讨会的主题逻辑的不确定性,和项目开始在车间进行了以下职位:

5月4 - 6,2015伯克利分校,加州

1介绍逻辑决策理论研讨会


这是第一个在一系列的工作坊,MIRI汇集了不同背景的研究人员,亚博体育官网公开讨论的一个问题技术议程话题,并开始项目和在这一领域的合作。

这个研讨会的主题决策理论,和项目开始在车间进行了以下职位:

5月3日至11日,二千零一十四伯克利分校,加利福尼亚州

第七次逻辑讲习班,概率,和反思


这个研讨会的参与者——他们退伍军人过去所有的车间从事各种与友好的人工智能相关的问题。第一这个车间的技术报告在这里.

12月14到20,二千零一十三伯克利分校,加利福尼亚州

6日研讨会的逻辑,概率,和反思


在这个车间关注参与者Lobian障碍,,概率逻辑,更广泛的和逻辑的交叉概率。本次研讨会的结果在这里.参见研讨会的照片在这里.

11月23-29,二千零一十三牛津大学,英国

5日研讨会的逻辑,概率,和反思


这次研讨会的与会者调查了与反射代理,,概率逻辑,和传道者在逻辑语句/逻辑全知的问题。一些结果从这个车间是进一步开发在2013年12月车间和描述在这里.

9月7日至13日,二千零一十三伯克利分校,加利福尼亚州

第四次逻辑讲习班,概率,和反思


september_workshop_1_300px这个车间关注各种各样的开放问题规范性决策理论.参与者想办法”适定问题”在该地区,建立在LaVictoire et al洛比亚合作工作,在形式化方面取得了一些进展updateless决策理论,并制定额外的玩具等问题终极Newcomb问题.

这些结果仍在写各种形式。

七月8日至14日,二千零一十三伯克利分校,加利福尼亚州

3日研讨会的逻辑,概率,和反思


september_workshop_2_300px这个车间关注相关的各种问题Lobian变为无效来系统的障碍亚博体育苹果app官方下载,和Demski的早期作品逻辑先验概率.The primary result was a proof that attempting to create a probability distribution which performs scientific induction on Π1语句,概率收敛于1的真实版本这样的语句,can create zero limiting probabilities assigned to true Π语句。这个结果仍在写,但是,在一篇博客文章德姆斯基。在进一步的研讨会上,开发了其他一些进展,并对其进行了描述。在这里.

4月3-24,二千零一十三伯克利分校,加利福尼亚州

第二期逻辑讲习班,概率,和反思


这个为期三周的研讨会同时解决了多个公开的研究问题。亚博体育官网首先,参与者发现的一个改良版本反射原理发现于前一个车间,虽然这一进展仍在写。第二,参与者由LaVictoire改进早期的作品,导致纸”“囚徒困境:健壮的合作项目平衡通过只是逻辑”。第三,我住在曼谷宾佳Fallenstein参与者改进参数多态性方法来解决Lobian变为无效来系统的障碍亚博体育苹果app官方下载.

11月11到18门,二千零一十二伯克利分校,加利福尼亚州

1日研讨会的逻辑,概率,和反思


这个车间一行攻击Lobian变为无效来系统的障碍亚博体育苹果app官方下载.这个车间的主要结果是不但”漏洞”在塔斯基的真理的不确定性中(通过不动点定理),后来以草稿形式写成“可定义性概率逻辑真理“(见讨论)在这里,,在这里,和在这里)。