Deep learning and Convolutional Neural Networks课堂小结

今天的主要学习内容是深度学习和卷积神经网络以及上节课关于人工神经网络中的监督与非监督学习中的一部分内容。首先是神经网络无监督学习算法：自组织映射(SOM)，无监督学习有赫比学习和具有竞争性的学习。竞争性的学习算法又分为四个步骤：1.初始化2.激活和相似性匹配3.质量调整4.迭代。接下来是新的内容：机器学习(ML)和深度学习(DL)。基于以下原因，人类专业知识不存在，人类无法解释他们的专业知识，解决方案在时间上的变化，解决方案需要适应特定情况，我们需要机器学习。从人工神经网络上升到深度学习需要克服在处理高维数据时，推广到新示例的挑战变得越来越困难；传统机器学习中实现推广的机制不足以在高维空间中学习复杂函数；高维空间带来了高昂的计算成本等问题。ML/DL系统的开发过程分为五步：1.获取数据2.清理、准备和管理数据3.列车模型4.测试数据5.进行改进。最后是关于卷积神经网络（CNN）模型的内容。
今天的课程对神经网络无监督学习算法进行了了解，同时知道了机器学习和深度学习的重要性，最后关于卷积神经网络模型的内容其实是有点抽象的，还需要更多资料来进行理解。——于铖伟同学

今天Shahrel Azmin Suandi教授接着昨天的神经网络与机器学习，引入了深度学习（Deep Learning），并且将机器学习与深度学习进行了比较。
  机器学习的算法一般有两种模式，一种是有监督的学习（supervised learning），一种是无监督的学习（unsupervised learning）。他们的区别是：有监督的学习一般有分类好的样本作为输入，机器对其多次迭代最后能学习到我们想学习到的东西，比如识别红绿灯、斑马线上的人等。而无监督的学习则是直接对学习目标进行建模描述，通过他们之间的存在的相似点进行归类。
  之后教授提到了深度学习。我认为深度学习包含了机器学习，深度学习主要运用了卷积神经网络（CNN）。卷积神经网络相较于传统的神经网络则是对层级关系进行改进，层次之间的输入输出传递有了一个递进关系。
  通过这次课，我对机器学习算法有了一个大致了解，非常感谢Shahrel Azmin Suandi教授生动丰富的讲解。——应东淼同学
 

由于昨天所学内容较多，今天上课一半的时间还是在复习昨天的内容——人工神经网络。在复习了一遍前面的知识点之后，教授开始了新的内容。
一个知识点让我记忆犹新，就是反向传播训练算法，它首先是进行初始化，将网络的所有权值和阈值级别统一设置成随机数，这个初始化是在一个神经元的基础上完成的。其次是激活，通过应用输入xi（p）、x来激活反向传播神经等等。然后进行体重训练，更新反向传播网络中反向传播错误与输出神经元相关的权重。最后迭代，将迭代p增加1，回到步骤二并重复该过程，直到满足所选的错误标准。
我觉得今天的内容比昨天的要复杂一点，但是认真听完之后也可以听懂。而且教授十分耐心的询问我们有没有其他问题，之后我也会继续认真听课的。——林瑶同学