深度学习(Deep Learning or Feature Learning)
在神经网络基础上发展而来的表示学习方法,一种对特征的表示
主要深度神经网络(Deep Neural Network)学习模型
卷积神经网络(CNN)
循环神经网路(RNN)
生成对抗网络(GAN)
深度增强学习(DRL)
核心思想:构建分层的表示学习结构,使用一系列非线性变换操作,把原始数据中提取到的简单特征进行组合,得到更高层、更抽象的特征表示。例如文本理解,在浅层学习字词,中层学习句子,高层学习段落。
深度的优势
从原始数据中自动学习特征与特征的表示,只依赖非常少量的人工先验知识
便于特征迁移,适用于更复杂的实际问题
为什么要“深度”?
更多层的非线性变换嵌套
在神经元(参数)数量相同的情况下,深层网络结构具有更大的容量,具有更庞大的表示空间
多层折叠
- NN的结构设计决定了它的功能