有没有最新的深度学习和深度强化学习的教学资源?

MILA2018深度学习与强化学习夏季课程目前已经开放了教学资源,机器之心简要介绍了该课程所开放的资源与课程主题,读者可参考这些主题选择合适的课程 。
课程地址:https://dlrlsummerschool.ca/
【有没有最新的深度学习和深度强化学习的教学资源?】视频地址:http://videolectures.net/DLRLsummerschool2018_toronto/
MILA2018夏季课程包括深度学习夏季课程(DLSS)和强化学习夏季课程(RLSS),并主要由以下机构支持 。YoshuaBengio等人组织的夏季课程每年都非常受关注,每一个主题及讲师都是该领域的资深研究者,今年包括YoshuaBengio和RichardSutton在内的讲师大多来自常青藤院校、谷歌大脑、VECTORINSTITUTE和MILA实验室等知名的研究机构 。
深度学习夏季课程
深度神经网络学习在多层抽象网络中呈现数据,这极大地提升了语音识别、目标识别、目标检测、预测药物分子活动和其他多项任务的水平 。深度学习通过监督学习、无监督学习和强化学习构建分布式表征,在大型数据集中构建复杂的结构 。DLSS将涵盖深度神经网络的基础和应用,从基本概念到尖端研究结成果 。
深度学习夏季课程(DLSS)面向已具备机器学习(也可以是深度学习,但不是必须)领域基础知识并有志于进一步深入学习的硕士研究生、工程师和研究者 。今年的DLSS课程由GrahamTaylor、AaronCourville、RogerGrosse和YoshuaBengio共同组织 。
强化学习夏季课程
RLSS会覆盖强化学习的基础知识,并且展示其最前沿的研究方向和新发现,还会提供与研究生和业内高级研究人员进行交流的机会 。值得注意的是,今年RichardSutton会先给我们上一次强化学习「启蒙课」:《IntroductiontoRLandTD》 。
本课程主要面向机器学习及其相关领域的研究生 。参加者应该有过计算机科学和数学方面的进阶预训练的经验,今年强化学习夏季课程的组委会成员有Amir-massoudFarahmand、JoellePineau和DoinaPrecup 。
深度学习夏季课程一共包含12个主题,它从机器学习基本概念与理论开始介绍了深度学习常见的方法与理论 。包括可学习理论、最优化理论以及循环和卷积神经网络等 。如下所示为各位讲师及他们带来的课程主题,我们将简要介绍每一个课程讲了些什么 。
深度学习夏季课程
机器学习导论
机器学习一般分为三大类别:监督学习、强化学习和无监督学习 。来自杜克大学的KatherineHeller讲师会对这三种学习方式给出基本定义和区分,并辅以具体实例和算法示例的展示;以监督学习的角度,逐步引入线性拟合、误差估计、损失函数、过拟合、欠拟合、正则化等基本概念;从贝叶斯定理的角度重新理解过拟合问题;将线性拟合方法推广,以处理更加复杂的线性拟合问题,最经典的算法为Logistic回归 。
神经网络I
在这节课中,来自谷歌大脑的HugoLarochelle从神经网络的一般结构开始,过渡到深度学习 。神经网路的介绍部分除了基本的前向传播、初始化、激活函数、反向传播过程的解释;和上一节课程的基本概念相对应,涉及损失函数和正则化方法的实现,以及如何防止过拟合的方法,模型选择的方法;此外还有一些神经网络训练中常用的优化技巧,例如归一化、学习率调整等 。
深度学习部分强调了训练困难的问题,主要分为两个类别,分别是欠拟合与过拟合 。讲师针对这两类问题分别对可能的原因和解决方法进行了深入的讨论,其中欠拟合问题一般和优化方法、计算硬件等有关,过拟合问题一般需要用正则化方法来解决,并介绍了一种有趣的正则化方法——无监督预训练;之后在介绍批归一化方法时,讲师强调,这种正则化方法可以同时改善上述两个训练难题 。


特别声明:本站内容均来自网友提供或互联网,仅供参考,请勿用于商业和其他非法用途。如果侵犯了您的权益请与我们联系,我们将在24小时内删除。