AlexNet卷积神经网络

一.背景介绍


(图片来自网络)

lexNet 经常被认为是这一波人工智能浪潮的起点,该网络在 ImageNet 挑战赛中的错误率与前一届冠军相比减小了 10% 以上,比亚军高出 10.8 个百分点。AlexNet 是由多伦多大学 SuperVision 组设计的,由 Alex Krizhevsky, Geoffrey Hinton 和 Ilya Sutskever 组成。

AlexNet 是一个 8 层的卷积神经网络,使用 ReLU 激活函数,总共有 6 千万参数量。AlexNet 的最大贡献在于证明了深度学习的能力。它也是第一个使用并行计算和 GPU 进行加速的网络。

在 ImageNet 上,AlexNet 取得了很好的表现。它将识别错误率从 26.2% 降到了 15.3%。显著的性能提升吸引了业界关注深度学习,使得 AlexNet 成为了现在这一领域引用最多的论文。

二.模型简介

AlexNet中包含了几个比较新的技术点,也首次在CNN中成功应用了ReLU、Dropout和LRN等Trick。同时AlexNet也使用了GPU进行运算加速。
AlexNet将LeNet的思想发扬光大,把CNN的基本原理应用到了很深很宽的网络中。AlexNet主要使用到的新技术点如下:

《深度学习》 之 AlexNet卷积神经网络 原理 详解相关推荐

  1. 《深度学习》之 前馈神经网络 原理 详解

    前馈神经网络 1. 深度学习: **定义:**深度学习是机器学习的一个研究方向,它基于一种特殊的学习机制.其特点是建立一个多层学习模型,深层级将浅层级的输出作为输入,将数据层层转化,使之越来越抽象.是 ...

  2. 深度学习-目标检测YOLOV3 YOLOv4原理详解

    2.YoloV3核心基础内容 2.1 网络结构可视化 Yolov3是目标检测Yolo系列非常非常经典的算法,不过很多同学拿到Yolov3或者Yolov4的cfg文件时,并不知道如何直观的可视化查看网络 ...

  3. 深度学习中的循环神经网络LSTM详解

    (一).什么是循环神经网络LSTM? LSTM指的是长短期记忆网络(Long Short Term Memory),它是循环神经网络中最知名和成功的扩展.由于循环神经网络有梯度消失和梯度爆炸的问题,学 ...

  4. 【深度学习系列】卷积神经网络CNN原理详解(一)——基本原理(1)

    上篇文章我们给出了用paddlepaddle来做手写数字识别的示例,并对网络结构进行到了调整,提高了识别的精度.有的同学表示不是很理解原理,为什么传统的机器学习算法,简单的神经网络(如多层感知机)都可 ...

  5. 【人工智能】图文详解深度学习中的卷积神经网络(CNN)

    [人工智能]图文详解深度学习中的卷积神经网络(CNN) 概念和原理 为什么要使用卷积神经网络? 卷积神经网络简介 卷积神经网络的数学公式 池化操作: 全连接层: 激活函数 卷积神经网络的 C++ 实现 ...

  6. [人工智能-深度学习-33]:卷积神经网络CNN - 常见分类网络- LeNet网络结构分析与详解

    作者主页(文火冰糖的硅基工坊):文火冰糖(王文兵)的博客_文火冰糖的硅基工坊_CSDN博客 本文网址:https://blog.csdn.net/HiWangWenBing/article/detai ...

  7. 深度学习(DL)与卷积神经网络(CNN)学习笔记随笔-03-基于Python的LeNet之LR

    原地址可以查看更多信息 本文主要参考于:Classifying MNIST digits using Logistic Regression  python源代码(GitHub下载 CSDN免费下载) ...

  8. 吴恩达.深度学习系列-C4卷积神经网络-W2深度卷积模型案例

    吴恩达.深度学习系列-C4卷积神经网络-W2深度卷积模型案例 (本笔记部分内容直接引用redstone的笔记http://redstonewill.com/1240/.原文整理的非常好,引入并添加我自 ...

  9. 深度学习21天——卷积神经网络(CNN):实现mnist手写数字识别(第1天)

    目录 一.前期准备 1.1 环境配置 1.2 CPU和GPU 1.2.1 CPU 1.2.2 GPU 1.2.3 CPU和GPU的区别 第一步:设置GPU 1.3 MNIST 手写数字数据集 第二步: ...

最新文章

  1. 兄弟,用大白话告诉你小白都能看懂的Hadoop架构原理
  2. 使用硬件定时器软模拟多个定时器(8.15改进版)
  3. spring源码解析之IOC容器(二)------加载和注册
  4. vue父组件传值给字组件
  5. 计算机二级python选择题题库_2018年计算机二级python题库精编(1)
  6. 牛客14355 翻硬币
  7. 计算机硬盘是通用的吗,通用账务系统安装到计算机硬盘前需要进行的准备工作有()。A.清理硬盘B.校准计算机系统时间C.重设C - 作业在线问答...
  8. 编程基本功:不要患上词汇匮乏症
  9. DPDK-VPP 学习笔记-02
  10. 学计算机的学数学分析吗,学计算机专业是不是对数学的要求很高?
  11. 41局域网交换机及其基本原理
  12. TTL与RS-232电平转换芯片MAX232/MAX3232
  13. SAP SD跨公司销售案例教程后台配置
  14. 网吧用服务器做虚拟化,网吧内共享服务器搭建
  15. MBR15200FAC-ASEMI插件肖特基二极管MBR15200FAC
  16. background-color实现渐变过渡
  17. SRS4.0源码分析-CMake
  18. 计算机的表白隐藏功能,微信隐藏符号功能大全 情人节可以发这些表白
  19. Spring事务管理的总结
  20. Go(Golang)_12_竞态

热门文章

  1. 翱翔云天Focus on SAP Technical
  2. 2022新版手机软件库游戏库下载系统源码/附教程
  3. matlab可以节定积分方程,如何用matlab如何实现数值积分
  4. 3par交换机端口降级及相关排查命令
  5. Vue-Blu——组件丰富,样式美观的新兴Vue开源Vue组件
  6. Hibernate(四)——缓存策略+lazy
  7. 阻容感基础09:电感器原理(2)-电感器基本特性
  8. LINUX FTP并发及带宽限制
  9. 特殊字符200b200c200d的删除办法与原理
  10. geohash网格图_空间索引 - GeoHash算法及其实现优化