公益AI第二次学习打卡

首先还是要感谢平台给了自己一次学习的机会。自己平常也会跟着书上的内容敲敲代码，但对于理论知识还是一知半解。每节课后的习题给了自己一个巩固复习的机会，让自己能够清楚学习的重点，查漏补缺。
在这几天的学习中，自己的收获也很多。首先对于欠拟合和过拟合问题。在训练模型中经常会遇到两类典型问题：一类是模型无法得到较低的训练误差，我们将这一现象称作过拟合；另一类是模型的训练误差远小于它在训练数据集上的误差，我们称该现象为过拟合。
在应对过拟合问题时，我们常用到正则化的方式。权重衰减等于L₂范数正则化。正则化通过为模型损失函数添加惩罚项使学出的模型参数值较小，是应对过拟合的常用方式。L₂范数正则化在模型原损失函数基础上添加L₂范数惩罚项，从而得到训练所需要最小化的函数。L₂范数惩罚项指的是模型权重参数每个元素的平方和与一个正的常数的乘积。
接着，我认识到在深度模型的建立中，数值稳定性是一个需要考虑的问题。其中的典型问题是衰减和爆炸。当神经网络的层数较多时，模型的数值稳定性容易变差。而这时，使用批量归一化的方式可以使增强数值稳定性。
在这几天的学习中，也初步接触了卷积神经网络。卷积神经网络奠定了深度学习在计算机视觉领域发展的基础。卷积神经网路是含有卷积层的神经网络。在学习中，我明确了卷积运算与互相关运算之间的关系。学习了卷积神经网络中卷积层和池化层的工作原理，以及填充、步幅、输入通道、输出通道、特征图和感受野的含义，并且学习了几个具有代表性的深度卷积神经网络，如AlexNet等。
在本次学习中，自己又进一步了解了自然语言处理方面的知识。对于循环神经网络又有了更新一步的认识。但自己的基础不是很好，对于这一部分的知识还需要自己多下功夫。这次打卡算是对自己这几天的学习做了一个简单的总结。希望自己能在接下来的几天里继续努力，坚持学习。

公益AI第二次学习打卡相关推荐

伯禹-公益AI学习打卡 Task02
1.文本预处理记录一哈文本数据的常见预处理步骤: (1)读入文本 (2)分词 (3)建立字典,将每个词映射到一个唯一的索引(index) (4)将文本从词的序列转换为索引的序列,方便输入模型 2.基 ...
伯禹公益AI《动手学深度学习PyTorch版》Task 07 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 07 学习笔记 Task 07:优化算法进阶:word2vec:词嵌入进阶微信昵称:WarmIce 优化算法进阶 emmmm,讲实 ...
伯禹公益AI《动手学深度学习PyTorch版》Task 03 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 03 学习笔记 Task 03:过拟合.欠拟合及其解决方案:梯度消失.梯度爆炸:循环神经网络进阶微信昵称:WarmIce 过拟合. ...
伯禹公益AI《动手学深度学习PyTorch版》Task 06 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 06 学习笔记 Task 06:批量归一化和残差网络:凸优化:梯度下降微信昵称:WarmIce 批量归一化和残差网络 BN和Res ...
伯禹公益AI《动手学深度学习PyTorch版》Task 04 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 04 学习笔记 Task 04:机器翻译及相关技术:注意力机制与Seq2seq模型:Transformer 微信昵称:WarmIce ...
伯禹公益AI《动手学深度学习PyTorch版》Task 05 学习笔记
伯禹公益AI<动手学深度学习PyTorch版>Task 05 学习笔记 Task 05:卷积神经网络基础:LeNet:卷积神经网络进阶微信昵称:WarmIce 昨天打了一天的<大革 ...
结营答辩！28天！Datawhale助力公益AI一起学，点亮最暖寒假！
创新公益 28天前,为抵抗疫情,高校学子纷纷驻守在家,不能返校.不能去图书馆.在家如何高效学习,应对科研升学.求职就业的挑战? 我们觉得,大家需要一门好课,也需要好的学习氛围,更需要从学习到实践到就业 ...
AI基础实战营打卡笔记
AI基础实战营打卡笔记 20230201第一天(计算机视觉之算法基础鱼OpenMMLab入门)-张子豪 20230202第二天(计算机视觉之图像分类算法基础)-王若晖 20230203第三天(计算机视 ...
五本必读的深度学习圣经书籍，入门 AI 从深度学习开始
原标题:`五本必读的深度学习圣经书籍,入门 AI 从「深度学习」开始` (以下以 Daniel Jeffries 第一人称撰写) 多年来,由于实验室研究和现实应用效果之间的鸿沟,少有人持续研究人工智能 ...

公益AI第二次学习打卡

公益AI第二次学习打卡相关推荐

最新文章

热门文章