2021年6月1日-3日，第三届北京智源大会将隆重举办。现正式开放大会线上和线下报名渠道。

2021年北京智源大会召开在即，6月1日至6月3日，持续三天，13场主旨报告/重磅对话，29场由各领域领军学者主导的专题论坛，4场讲习班。大会将紧紧围绕这些当前学术领域迫切解决的问题，以及产业落地过程中存在的诸多挑战，延续一贯以来的“内行认可”品质口碑，采取极为严格的内行荣誉邀请制，分享真正内行认可的重大成果与真知灼见，献上一场诚意满满的AI盛宴！

北京智源大会倒计时：12 天

29场专题论坛中，机器学习专题论坛详细议程如下：

论坛主席

朱 军

    朱军，清华大学计算机系教授、北京智源人工智能研究院首席科学家，曾任卡内基梅隆大学兼职教授。主要从事机器学习研究，担任IEEE TPAMI的副主编、AI编委，担任ICML、NeurIPS等领域主席20余次。获科学探索奖、CCF自然科学一等奖等，入选万人计划领军人才、MIT TR35中国先锋者以及IEEE“AI’s 10 to Watch”，获多项国际竞赛冠军和最佳论文奖。

演讲主题及嘉宾介绍

1. Opening the Black Box of Deep Learning: Some Lessons and Take-aways

议题简介：在过去的十年里，深度学习迅速占据了人工智能和机器学习的主导地位。尽管深度学习在很大程度上是一个“黑盒子”，但不可否认，其取得了显著的成功。当下，有一个小的分支学科正在发展起来，获得对深度学习潜在数学特性更好的理解。通过对深度学习在某些具体情况下的最新理论分析的回顾，我们说明了黑盒理论是如何忽略(甚至错误地理解)训练过程中发生的特殊现象的。这些现象也没有体现在训练目标函数中。我们认为，通过数学视角来理解这种现象对于未来的全面应用至关重要。（翻译参考）

Deep learning has rapidly come to dominate AI and machine learning in the past decade. These successes have come despite deep learning largely being a “black box.” A small subdiscipline has grown up trying to derive better understanding of the underlying mathematical properties. Via a tour d’horizon of recent theoretical analyses of deep learning in some concrete settings, we illustrate how the black box view can miss out on (or even be wrong about) special phenomena going on during training. These phenomena are also not captured by the training objective. We argue that understanding such phenomena via mathematical understanding will be crucial for enabling the full range of future applications.

演讲嘉宾：Sanjeev Arora

Sanjeev Arora是普林斯顿大学计算机科学Charles C. Fitzmorris教授。他曾获得Packard Fellowship(1997)、Simons Investigator Award(2012)、Gödel Prize(2001和2010)、ACM Prize in Computing(2012)和Fulkerson Prize(2012)。他是NAAS Fellow和NAS成员。

2. Deep (Convolution) Networks from First Principles

议题简介：在本次报告中，我将从数据压缩(和群不变性)的角度，提供一个对深度(卷积)网络的完全“白盒”的解释。特别是，我们展示了现代的深层架构，线性(卷积)算子和非线性激活函数，以及所有的参数都可以从最大编码率降低(群不变性)的原则推导出来。网络中所有的层、算子和参数都可以在前向传播中显式地构造出来，而不是用反向传播学习出来。这样得到的网络称为ReduNet，其中所有的组成部件都具有精确的优化、几何特征和统计解释。这个本质的方法还有几个好的惊喜：它解释了不变性和可分所需的稀疏性之间本质的权衡关系；它从群不变性的角度解释了深度网络和傅里叶变换的本质联系——频域的计算优势；这个方法也说明了前向传播和反向传播的数学角色。特别是ReduNet的前向传播和反向传播都可以通过优化同一个目标函数细调。（翻译参考）

In this talk, we offer an entirely “white box’’ interpretation of deep (convolution) networks from the perspective of data compression (and group invariance). In particular, we show how modern deep layered architectures, linear (convolution) operators and nonlinear activations, and even all parameters can be derived from the principle of maximizing rate reduction (with group invariance). All layers, operators, and parameters of the network are explicitly constructed via forward propagation, instead of learned via back propagation. All components of so-obtained network, called ReduNet, have precise optimization, geometric, and statistical interpretation. There are also several nice surprises from this principled approach: it reveals a fundamental tradeoff between invariance and sparsity for class separability; it reveals a fundamental connection between deep networks and Fourier transform for group invariance – the computational advantage in the spectral domain (why spiking neurons?); this approach also clarifies the mathematical role of forward propagation (optimization) and backward propagation (variation). In particular, the so-obtained ReduNet is amenable to fine-tuning via both forward and backward (stochastic) propagation, both for optimizing the same objective.

演讲嘉宾：马 毅

马毅，加州大学伯克利分校电气工程和计算机科学系客座教授。1995年获清华大学学士学位，2000年获加州大学伯克利分校硕士、博士学位。他的研究兴趣包括计算机视觉、高维数据分析和智能系统。2000年至2011年在UIUC ECE学院任教，2009年至2014年任微软亚洲研究院视觉计算组主管，2014年至2017年任上海科技大学信息科学与技术学院院长。他在计算机视觉、统计学习和数据科学领域发表了160多篇论文和三本教科书。2004年获NSF职业成就奖，2005年获ONR青年研究员奖。1999年，他还获得了计算机视觉领域的David Marr奖，并分别担任ICCV 2013年和2015年的程序主席和大会主席，是IEEE/SIAM/ACM Fellow。

3. 开放环境机器学习

议题简介：机器学习任务以往通常考虑封闭环境，一般假设学习过程中的诸多关键因素不发生变化，而随着机器学习越来越多地进入现实应用，亟需考虑开放环境带来的挑战。本报告将汇报我们最近在这方面的一点粗浅工作。

演讲嘉宾：周志华

周志华，南京大学计算机系主任兼人工智能学院院长。主要从事机器学习与数据挖掘研究，在集成学习、多标记学习与弱监督学习方面有重要贡献。著有《机器学习》《Ensemble Methods: Foundations and Algorithms》等。曾获国家自然科学二等奖、IEEE计算机学会Edward J. McCluskey技术成就奖、CCF-ACM人工智能奖等，是欧洲科学院外籍院士，ACM、AAAI、AAAS、IEEE、IAPR等的Fellow。

4. 可解释性定义与可解释模型的学习

演讲嘉宾：张长水

张长水，清华大学自动化系教授、博士生导师， 智能技术与系统国家重点实验室副主任，自动化系主任，智能技术与系统国家重点实验室学术委员会委员，智源研究员。

- 点击阅读原文或长按图片，内行盛会，免费注册-

欢迎加入智源社区「机器学习」交流群

（更多活动信息将在交流群中同步）