特征提取是人脸识别中比较重要的步骤，在研究特征提取的过程中产生了许多降维的方法^[1,2,3]，如主成分分析（principal component analysis，PCA）^[4]和线性判别分析（liner discriminant analysis，LDA）^[5]等，这些方法都能在一定程度上较好地对特征进行提取。与 PCA 和 LDA 不同的是，非负矩阵分解（non-negative matrix factorization，NMF）要求非负矩阵中的所有元素都大于或等于零，在这种约束下，原始数据中的噪声信息被充分过滤，从而使新的数据具有更好的表示能力。

作为一种基于局部的提取方法，NMF在特征提取领域已得到广泛使用，同时也产生了许多 NMF的扩展方法，包括稀疏NMF、鉴别NMF、正交NMF以及流形 NMF 等。有学者通过对非负矩阵施加稀疏编码，提出了一种新的非负稀疏编码（non-negative sparse coding，NNSC）方法^[6]，很大程度上增强了NMF的稀疏表示能力。Cai D等人^[7]将 NMF 与流形结构结合，提出了图正则化 NMF （graph regularized NMF，GNMF）算法，从而保持了数据的内在几何结构。类似的算法还有流形正则化判别 NMF（manifold regularized discriminative NMF，MD-NMF）^[8]、图嵌入正则化投影NMF（graph embedding regularized projection NMF，GEPNMF）^[9]等。这些扩展算法都使 NMF 方法的能力得到了很大的提高。

尽管许多 NMF 方法结合了不同的性质，如稀疏性、判别能力或流形结构，但这些基于 NMF 的方法都将欧氏距离作为度量，该度量对数据噪声非常敏感。为了增强 NMF 的鲁棒性，人们也提出了一些鲁棒的NMF方法，如鲁棒NMF（robust NMF， RNMF）^[10]、基于L_2.1范数的NMF ^[11]等。这些鲁棒的 NMF 方法都是基于局部学习的，忽略了数据的全局信息。然而在实际应用中，数据中的噪声的全局分布大多是不规律的。因此，现有的鲁棒的NMF方法的鲁棒性是有限的。事实上，在对损坏数据进行分类时，数据的全局信息比局部信息具有更强的鲁棒性。

低秩表示（low-rank representation，LRR）可以捕获数据的全局结构，揭示样本的隶属度。在图像分类中，局部信息和全局信息在特征提取和分类中都起着重要作用。NMF 方法在局部特征学习上具有较强的能力，但忽略了数据的全局信息，为了保持局部特征学习和全局学习能力，在 LRR 的激励下，本文提出了一种利用低秩、非负监督约束和稀疏性^[12,13,14]的算法——非负监督低秩鉴别嵌入（non-negative supervised low-rank discriminant embedding，NSLRE）来分类被破坏的数据。笔者假设数据被严重损坏，并将L₁范数作为假定的噪声矩阵的稀疏约束。NSLRE先学习低秩矩阵、恢复干净矩阵并去除数据中的噪声；然后，对学习到的低秩矩阵进行非负因子分解，保持数据的局部表示能力，在此基础上结合流形正则化保持数据的局部几何结构，进一步增强 NMF的局部属性。NSLRE能够同时进行低秩学习和非负性学习，能够很好地获得基于局部和全局的数据表示。这保证了 NMF 中两个非负矩阵的构造不受噪声的影响。该算法既能保留数据的局部几何信息，又能进行去噪处理，对有噪声的图像分类任务有较好的处理效果。该算法的主要优点如下。

（1）NSLRE结合了NMF和LRR的一些优点。该算法学习到的低秩矩阵具有类似于 LRR 的全局表示，基础矩阵具有类似于 NMF 的局部表示。将局部表示和全局表示结合进行非负学习，实现鲁棒图像分类。

（2）在没有数据噪声干扰的情况下，在学习到的投影子空间中，同一类的数据点可以尽可能接近，这可以提高基于NMF的鲁棒方法的判别能力。

给定一个训练集 $X=\left[x_1,x_2,\cdots ,x_i,\cdots ,x_n\right]\in R^{m\times n}$ ，其中m表示数据样本的维度，n表示数据样本的个数。NMF 的主要想法是将数据集$X$分解为两个非负因子$U\in R^{m\times k}$和$V\in R^{k\times n}$ 。基于欧氏距离的NMF的目标函数可以定义为：

它的迭代规则可以表示为：

其中，$u_{jk}^{}$和$v_{ki}^{}$分别为$U$和$V$的列向量。NMF被广泛应用于计算机视觉、模式识别、图像分类。不同于PCA和LDA，NMF中的所有元素都大于或等于零，这导致 NMF 是基于局部的表示。这也与基于部分表征的人脑的心理和生理证据一致。

为了解决子空间分解问题，有学者提出了LRR^[15,16,17]方法，LRR的数据向量是其他样本的线性组合。与稀疏表示不同，LRR联合搜索所有数据的最低秩表示，捕获数据的全局结构。

给定一个训练集$X=\left[x_1,x_2,\cdots ,x_i,\cdots ,x_n\right]\in R^{m\times n}$ 。$X$的每一列都可以用基矩阵$D$来线性表示：

其中，$Z$是一个系数矩阵，LRR通过解决如下优化寻找$Z$的最优解：

对于被损坏的数据，将噪声矩阵$E$添加到式（4）中可以得到：

给定一个训练集$X=\left[x_1,x_2,\cdots ,x_i,\cdots ,x_n\right]\in R^{m\times n}$ ， NMF将训练数据矩阵分解为两个非负的因子矩阵。但在实际应用中，数据总是被噪声干扰，因此笔者假设数据的噪声矩阵为$E$，并且将它添加到非负矩阵分解模型中，可以得到：

令$A=X-E$，则式（6）可重写为：

其中，$A$为不含噪声的矩阵。但是非负矩阵分解注重数据局部结构，且忽略了数据的低秩特性。而对于被损坏的数据来说，全局信息更加有效，因此笔者考虑了样本的全局结构，且在式（7）中引入了LRR的低秩约束，得到下式：

其中，$S_{ij}^w$、$S_{ij}^b$分别表示样本类内与类间的权重矩阵，$p$ 为投影向量，α>0是一个用于权衡$A$分解后的余数与$A$的低秩的参数。

但是由于式（8）是一个NP问题，笔者将该问题用凸优化问题代替：

假设噪声是稀疏的，笔者使用L₁范数对噪声矩阵$E$进行稀疏约束，可以得到：

该模型考虑了样本的全局信息与局部信息，同时对样本添加低秩特性，确保误差是稀疏的。

笔者用交替方向乘子法（alternating direction method of multiplier，ADMM）或增广拉格朗日乘子法（augmented Lagrangian multiplier，ALM）来解决式（4）～式（10）。具体利用核范数^[18]的下列性质来解决。

定理 1 对于任意矩阵$A\in R^{m\times n}$，都有 ${\Vert A\Vert }_{*}\text{=}\underset{R,H}{\min }\frac{1}{2}\left({\Vert R\Vert }_F^2+{\Vert H\Vert }_F^2\right)$ s.t.$A=RH$。

根据定理1，可以将式（10）转化为式（11）：

它的增广拉格朗日函数为：

可以通过固定其他变量的方法来求解每个变量。

（1）求解$A$

固定其他变量求解$A$，可以得到如下问题：

通过求解式（13）的偏导数并令其等于0可以得到：

其中， $K_1=UV$， $K_2=X-E+\frac{Y_1}{\mu }$ ， $K_3=RH-\frac{Y_2}{\mu }$ 。

（2）求解$E$

固定其他变量求解$E$，可以得到下式：

这是一个软阈值问题，可以通过收缩因子来求解该问题：

其中，${\zeta }_{\frac{\beta }{{\mu }^k}}$ 是一个软阈值算子，它被定义为：

（3）求解$U$

固定其他变量求解$U$得到：

经过简单的计算，式（18）可转化为：

假设拉格朗日乘子为${\psi }_{ij}$，且使得$u_{ij}\ge 0$，可以得到式（19）的拉格朗日函数为：

令$L(U)$对U的偏导数为0，则最后可以得到：

通过KKT条件可知，需要 ${\psi }_{ij}{u}_{ij}\text{=}0$，因此式（21）可转化为：

从而可以进一步得到如下迭代规则：

（4）求解$V$

求解$V$与$U$的步骤与上文相同，经过一些简单的计算，可以得到下式：

令${\varphi }_{ij}$为拉格朗日乘子，可得函数为：

令$V$的偏导数为0，则：

根据KKT条件${\varphi }_{ij}{v}_{ij}=0$，可得：

最后得出迭代规则为：

（5）求解$R$

固定$R$以外的变量可以得到：

求解式（29）的偏导数，且令其等于0得：

（6）求解$H$

固定$H$以外的变量可以得到：

求偏导数得：

（7）求解投影矩阵$p$

固定投影矩阵$p$以外的变量可以得到：

经过简单化简得到：

算法1展示了NSLRE的整个过程。

算法1 NSLRE

输入 训练集$X$，维度d，迭代数T，参数α和β

步骤1：初始化$E=0$，$V=0$，$U=0$和 $Y_1=Y_2=0$

步骤2：从i= 1 : T做：

通过式（14）更新$A$；

通过式（16）更新$E$；

通过式（23）更新$U$；

通过式（28）更新$V$；

通过式（30）更新$R$；

通过式（32）更新$H$；

通过式（33）更新$p$；

更新拉格朗日乘子：

通过μ=min(ρμ,max μ)更新μ

输出 最优解$A$、$E$、$U$、$V$、$R$、$H$、$p$

ORL人脸数据库包含400张图像，共40个人，每个人10张图像。每张图像的大小为56×46像素，包含了每个人不同的姿势和面部表情。

Yale人脸数据库的图像数量较少，共165张图像，包含15个人，每个人有11张图像。每张图像的大小为80×100像素，表情、手势和灯光都不一样。

AR人脸数据库包含120个人的2 400张图像，每一张都被裁剪成50×40像素。

FERET人脸数据库包含200个人，每个人都有7张受不同照明影响的图像，共1 400张图像。每张图像都被调整为40×40像素。

PolyU掌纹数据库有100个人的600张图像。每个人的6个样本被采集了两次，采集间隔两个月。

笔者从不同的数据集中选取不同的样本来测试本文提出的方法的性能。选择不同数据集中的t张图像作为训练样本，图像分别来自 ORL、Yale 和AR（t= 3,4,5,6）以及 FERET 人脸数据库（t= 2,3,4,5）。为了证明该方法的准确性，笔者将其与经典的线性方法LDA和低秩方法LRR、流形学习的方法LPP及其监督扩展SLPP、基于非负矩阵分解的方法NMF和鲁棒扩展方法RNMF以及基于相同低秩思想的LRNF方法进行比较。参数α和β的选择范围为{10^-4,10^-2,…,10²,10³}。最后使用最近邻分类器对提取的样本进行分类。

为了进一步测试 NSLRE 在面对不同层次的连续遮挡数据时的鲁棒性，笔者在图像的不同位置随机添加一些遮挡块，将块大小分别设置为 5×5 和10×10。ORL、Yale、AR 和 FERET 人脸数据库的原始图像及其不同级别连续遮挡的损坏图像见表1。

图1展示了LDA、LRR、LPP、SLPP、NMF、RNMF、LRNF和NSLRE在不同遮挡水平下，在不同数量的训练样本中的最高分类准确率，表2，表3，表4，表5展示了块遮挡下不同人脸数据库上各算法的最高识别率。

PolyU掌纹数据库包含100个人的600张图像。每张图像的大小都是128×128像素。为了进一步测试NSLRE在掌纹数据库上的鲁棒性，笔者在样本图像上分别添加了大小为 5×5 和 10×10 的遮挡块。PolyU 掌纹数据库的原始图像与分别带有 5×5 和10×10遮挡块的损坏图像如图2所示。笔者为每个掌纹选取3张图像作为训练样本。实验结果如图3所示。PolyU掌纹数据库上各算法的最高识别率见表6。

对于人脸数据库，图1显示了不同方法在ORL、Yale、AR和FERET人脸数据库上的最高识别率随训练样本数量的变化，表2至表5显示了不同算法随不同训练样本在不同人脸数据库上的最高识别率。上述结果表明，LPP和SLPP方法作为流形学习方法，识别率较LDA有所提升，因为LPP和SLPP都采用了图嵌入的思想，通过权重图来约束样本相邻点的相似度，流形学习方法更注重于保留数据内在的局部邻域结构。作为一种低秩表示方法，LRR将样本矩阵作为字典并进行自表示，在对噪声的鲁棒性上具有明显的优势。与NMF和RNMF相比， NSLRE因为引入了非负学习的思想，将非负因子分解融入算法中，所以效果更加显著。同时，相比LPP、NMF和LRR，NSLRE的识别率提升了5%～15%，这是因为NSLRE在考虑样本流形结构的情况下引入了低秩表示，通过对矩阵的分解来引入低秩特性提取主要特征，从而获得了更好的鲁棒性。最后，为了测试NSLRE的稳定性，图3和表6分别展示了NSLRE在 PolyU 掌纹数据库上原始样本的最高识别率和样本加噪后的最高识别率。从图3和表6中可以看出， NSLRE 在经过块遮挡干扰后仍能保持良好的识别率，模型具有良好的鲁棒性。

本文提出了一种新的低秩非负矩阵分解算法——非负监督低秩鉴别嵌入算法，它在一定程度上解决了非负矩阵分解存在的一些问题。此算法有效地结合了低秩表示、非负矩阵分解以及图嵌入的特性。它假设数据被噪声损坏，通过L₁范数约束噪声，通过核范数约束低秩矩阵，并在此基础上进行非负矩阵分解，最后结合图嵌入的方法保留了样本的局部性和全局性，这使得模型的鲁棒性较强。在对不同数据集进行加噪处理后，通过实验对所提算法进行分析，进一步证明了该算法的有效性。