自编码器及其应用综述
来杰, 王晓丹, 向前, 宋亚飞, 权文

Review on autoencoder and its application
Jie LAI, Xiaodan WANG, Qian XIANG, Yafei SONG, Wen QUAN
表1 基于神经网络的无监督学习算法分析与比较
算法 目的 实现方式 特点
AE 特征提取 特征降维 由编码器与解码器组成,前者完成样本的抽象特征表示,后者完成输入样本的重构,通过梯度下降算法完成迭代微调 确定型无监督学习模型,能有效提取高级抽象特征,但所提取特征的稀疏性、稳健性不足
RBM 特征提取 特征降维 由可见层与隐含层组成,旨在最大化可见变量与隐含变量联合概率分布的似然函数,通过对比散度算法完成迭代微调 概率型无监督学习模型,能有效提取高级抽象特征,但易产生过拟合现象
GAN 数据生成 由生成器与判别器组成,旨在通过生成器与判别器的二元博弈提升生成样本质量,网络参数的优化由梯度下降算法完成 无监督生成模型,能生成高质量样本,但易发生模式崩溃问题
SOM 聚类分析 特征提取 特征降维 由输入层与竞争层组成,旨在通过竞争学习策略逐步优化网络,近邻关系函数维持输入样本的拓扑结构,进而完成样本的低维映射 浅层无监督学习模型,具有独特的竞争学习机制,能有效生成样本的低维映射,但不适用于高维特征的提取