我的深度学习之路

学 习 开 篇声 明1本系列文章是作者在学习深度学习过程中整理的学习笔记文章中包含了原文的部分内容以及作者的一些心得。具体引用的书籍和资料请看参考文献具体的版本声明也参考原文献。2本系列文章仅供学术交流非商用。所以每一部分具体的参考资料并没有详细对应。如果某部分文章不小心侵犯了原作者的利益还望海涵并联系博主删除。3本人才疏学浅理解上难免有些偏差同时在整理总结的时候也难免出错还望各位不吝指正多多交流共同进步。4阅读本系列文章有可能需要一定的数学、数字信号处理、数字图像处理等基础当然没有也没关系能看懂就好。5当前属于第一版本可能存在某错误还需继续修正与增删。沟通交流指正请联系bonn1011qq.com本系列内容持续更新中…随着科学技术的不断发展近年来人工智能、AI、深度学习、机器学习、神经网络等等太多的名词出现在大众的视野并陆续进入我们的日常生活中。作为一个机器视觉领域的大龄从业人员对近些年出现的这些新技术也充满了好奇。与此同时随着工作上要解决的问题的复杂度越来越高、目标的一致性越来越差传统视觉算法在解决这些问题的时候越来越难以达到一个可靠的精度与稳定性。因此需要寻找参数量更高、通用性更好的算法来解决这些实际应用中的问题这个要求也直接指向了深度学习技术。现有的深度学习技术更贴近计算机视觉行业在工业自动化领域需要基于行业的特点对其进行一些优化。因此需要对深度学习技术有一个深入的理解与掌握。由于所学专业与工作内容等原因对于这方面的知识了解的并不多且有一定的断层于是又开始了新一轮的学习之路。在现有知识积累下准备从机器学习开始逐渐学习到深度学习部分。学习的方式主要以阅读相关的书籍为主掌握并复现发展过程中具有代表性的网络算法为辅。在学习过程中准备将一些知识要点与心得体会整理记录下来帮助自己更好的掌握的同时也留存一些笔记以备后续温习。编写本系列文章的目的正是如此同时也希望这些笔记能给有需要的人带来一些帮助。文章目录一、深度学习认知及学习规划二、读书笔记索引1、《机器学习入门实战》2、《深度学习入门——基于Python的理论与实践》3、《人工神经网络理论、设计及应用》4、《TensorFlow实战Google深度学习框架》5、《基于TensorFlow的深度学习》6、《21个项目玩转深度学习——基于TensorFlow的实战》7、《深度学习与飞桨——PaddlePaddle Fluid实战》8、《Tensorflow2.0——深度学习应用编程快速入门》9、《DeepLearning深度学习》——花书三、算法学习笔记索引1、CV• 图像分类2、CV• 目标检测一、深度学习认知及学习规划已经有太多的文章和书籍介绍什么是深度学习因此在这里仅仅介绍一下我对深度学习的认知。随着学习的深入认知也在不断变化因此这部分内容也在持续修改更新。什么是深度学习?随着计算机技术的发展在越来越多的领域开始让机器代替人来处理现实世界中的任务。比如道路监控、人脸识别、智能聊天、机器翻译以及自动化流水线等。早期一些任务是由相关的从业人员通过将一系列的规则进行编码来实现的也就是常说的传统算法。根据任务和目标的不同这些算法也会有数量不等的参数但总体上这些参数不会有很大的量级。而随着任务的复杂度越来越高算法中用到的参数数量会具有一个非常大的量级从而超出人们的调试能力甚至有些任务很难找到一些形式化的规则来将其进行编码。深度学习就是在此种情况下发展出来的它并不具有与人工智能等同的意义。它仅仅是一类参数数量的量级非常大且通用性和泛化能力非常好的算法。它与传统算法在本质上并没有什么不同。学习是指它具有自主调整算法中的参数的能力而不再需要由人们来调整。深度是相对于早期机器学习来说的是指算法中的处理链条非常长。通俗的讲深度学习就是一类处理链条非常长、参数量级非常大、通用性和泛化能力非常好的处理算法的统称。这类算法仅需要人们设计一套通用的处理算法由机器自己调整其中的参数。而为了与深度学习算法进行区分将早期的由人们根据任务来进行针对性设计并调参的处理算法称为传统算法。二、读书笔记索引以下是近些年在学习深度学习的过程中阅读过的书籍现准备将纸质笔记整理成电子文档先列出目录后续再持续整理更新…1、《机器学习入门实战》[读书笔记(1) —— 机器学习 • K近邻][读书笔记(2) —— 机器学习 • 决策树][读书笔记(3) —— 机器学习 • 朴素贝叶斯][读书笔记(4) —— 机器学习 • 逻辑回归][读书笔记(5) —— 机器学习 • 支持向量机SVM][读书笔记(6) —— 机器学习 • Adaboost算法][读书笔记(7) —— 机器学习 • 线性回归][读书笔记(8) —— 机器学习 • 树回归][读书笔记(9) —— 机器学习 • K均值聚类][读书笔记(10) —— 机器学习 • 数据分析之Apriori][读书笔记(11) —— 机器学习 • 数据分析之FP-Growth][读书笔记(12) —— 机器学习 • 数据降维之PCA][读书笔记(13) —— 机器学习 • 数据降维之SVD][读书笔记(14) —— 机器学习 • 总结]2、《深度学习入门——基于Python的理论与实践》[读书笔记(15) —— 深度学习入门 • 感知机[读书笔记(16) —— 深度学习入门 • 神经网络之前向传播[读书笔记(17) —— 深度学习入门 • 神经网络之学习[读书笔记(18) —— 深度学习入门 • 神经网络之误差反向传播[读书笔记(19) —— 深度学习入门 • 神经网络之与学习相关的优化[读书笔记(20) —— 深度学习入门 • 神经网络之卷积神经网络[读书笔记(21) —— 深度学习入门 • 深度学习[读书笔记(22) —— 深度学习入门 • 总结3、《人工神经网络理论、设计及应用》[读书笔记(23) —— 神经网络教材 • 神经网络基础[读书笔记(24) —— 神经网络教材 • 监督学习神经网络[读书笔记(25) —— 神经网络教材 • 竞争学习神经网络[读书笔记(26) —— 神经网络教材 • 组合神经网络[读书笔记(27) —— 神经网络教材 • 反馈神经网络[读书笔记(28) —— 神经网络教材 • 小脑(CAMC)神经网络[读书笔记(29) —— 神经网络教材 • 基于数学原理的神经网络[读书笔记(30) —— 神经网络教材 • 总结4、《TensorFlow实战Google深度学习框架》[读书笔记(31) —— TensorFlow实战Google • 深度学习和TensorFlow入门[读书笔记(32) —— TensorFlow实战Google • 深层神经网络[读书笔记(33) —— TensorFlow实战Google • MNIST手写数字识别[读书笔记(34) —— TensorFlow实战Google • 图像识别与卷积神经网络[读书笔记(35) —— TensorFlow实战Google • 图像数据处理[读书笔记(36) —— TensorFlow实战Google • 循环神经网络[读书笔记(37) —— TensorFlow实战Google • 自然语言处理[读书笔记(38) —— TensorFlow实战Google • 其它方面[读书笔记(39) —— TensorFlow实战Google • 总结5、《基于TensorFlow的深度学习》[读书笔记(40) —— TensorFlow深度学习 • 深度学习概述[读书笔记(41) —— TensorFlow深度学习 • TensorFlow原型概述[读书笔记(42) —— TensorFlow深度学习 • 使用TensorFlow进行线性和逻辑回归[读书笔记(43) —— TensorFlow深度学习 • 全连接神经网络[读书笔记(44) —— TensorFlow深度学习 • 超参数优化[读书笔记(45) —— TensorFlow深度学习 • 卷积神经网络[读书笔记(46) —— TensorFlow深度学习 • 递归神经网络[读书笔记(47) —— TensorFlow深度学习 • 强化学习[读书笔记(48) —— TensorFlow深度学习 • 多GPU并行及深度学习未来[读书笔记(49) —— TensorFlow深度学习 • 总结6、《21个项目玩转深度学习——基于TensorFlow的实战》[读书笔记(50) —— TensorFlow项目 • MNIST手写字符识别[读书笔记(51) —— TensorFlow项目 • CIFAR-10和ImageNet分类[读书笔记(52) —— TensorFlow项目 • 训练自己的分类数据集(TF-Slim)[读书笔记(53) —— TensorFlow项目 • Deep Dream模型[读书笔记(54) —— TensorFlow项目 • 目标检测网络[读书笔记(55) —— TensorFlow项目 • 人脸识别[读书笔记(56) —— TensorFlow项目 • 图像风格迁移[读书笔记(57) —— TensorFlow项目 • GAN和DCGAN入门[读书笔记(58) —— TensorFlow项目 • pix2pix模型与自动上色技术[读书笔记(59) —— TensorFlow项目 • 超分辨率重建技术[读书笔记(60) —— TensorFlow项目 • CycleGAN与非配对图像转换[读书笔记(61) —— TensorFlow项目 • RNN基本结构与CharRNN文本生成[读书笔记(62) —— TensorFlow项目 • 序列分类问题详解[读书笔记(63) —— TensorFlow项目 • 词的向量表示Word2Vec与词嵌入[读书笔记(64) —— TensorFlow项目 • 在TensorFlow中进行时间序列预测[读书笔记(65) —— TensorFlow项目 • 神经网络机器翻译技术[读书笔记(66) —— TensorFlow项目 • 看图说话将图像转为文字[读书笔记(67) —— TensorFlow项目 • 强化学习之QLearning[读书笔记(68) —— TensorFlow项目 • 强化学习之SARSA算法[读书笔记(69) —— TensorFlow项目 • 强化学习之DeepQLearning[读书笔记(70) —— TensorFlow项目 • 策略梯度算法[读书笔记(71) —— TensorFlow项目 • 总结7、《深度学习与飞桨——PaddlePaddle Fluid实战》[读书笔记(72) —— PaddlePaddle • 简介与安装部署[读书笔记(73) —— PaddlePaddle • MINST手写数字识别[读书笔记(74) —— PaddlePaddle • 设计思想与核心技术[读书笔记(75) —— PaddlePaddle • 经典分类网络实现[读书笔记(76) —— PaddlePaddle • 其它章节介绍[读书笔记(77) —— PaddlePaddle • 总结8、《Tensorflow2.0——深度学习应用编程快速入门》[读书笔记(78) —— TF2 • Python基础编程入门[读书笔记(79) —— TF2 • TensorFlow2.0快速入门[读书笔记(80) —— TF2 • 基于CNN的图像识别应用编程实践[读书笔记(81) —— TF2 • 基于Seq2Seq的中文聊天机器人编程实践[读书笔记(83) —— TF2 • 基于CycleGAN的图像风格迁移应用编程实践[读书笔记(84) —— TF2 • 基于Transformer的文本情感分析编程实践[读书笔记(85) —— TF2 • 基于TensorFlow Serving的模型部署实践[读书笔记(86) —— TF2 • 总结9、《DeepLearning深度学习》——花书读书笔记(87) —— DL花书 • 引言读书笔记(88) —— DL花书 • 线性代数读书笔记(89) —— DL花书 • 概率与信息论读书笔记(90) —— DL花书 • 数值计算读书笔记(91) —— DL花书 • 机器学习基础三、算法学习笔记索引以下是近些年在学习深度学习的过程中对各个代表性网络的学习笔记先列出目录后续再持续整理更新…1、CV• 图像分类[算法笔记(1)——GoogleNet]2、CV• 目标检测算法笔记(2)——Yolo_V1算法笔记(3)——YOLOv1 知识点梳理与总结算法笔记(4)——YOLOv2 知识点梳理与总结算法笔记(5)——YOLOv3 知识点梳理与总结算法笔记(6)——YOLOv4 知识点梳理与总结算法笔记(7)——YOLOv5 知识点梳理与总结