概述:
此文章将要描述一种基于MATLAB平台,运用PCA主成分分析方法对图片数据进行降维,运用SVM支持向量机分类器对降维后的图片数据进行分类处理,从而达到人脸识别的目的。
首先要感谢以下几篇文章的作者(后面引用会标识文章标号)
2.
PCA (主成分分析)详解 (写给初学者) 结合matlab(F),E篇列出了具体的数据供大家检验,大家可以根据数据来验证数学过程,简单易懂。F篇与前篇有点相似,对初学者很有帮助。
4.浅谈协方差矩阵(G)此篇文章对于大家了解协方差矩阵以及matlab实现很有作用。
准备:
1.编程平台:MATLAB。
首先你得保证你的机器上安装有matlab,建议较高的版本。
2.libsvm工具箱。
本人在对第一篇文章中代码关于SVM分类的部分没有运行成功,所以运用了libsvm工具箱对样本训练,测试,并没有运用第一篇文章的代码,如果你能成功可忽略,但建议安装此工具箱,其对SVM分类有很大帮助。如果你一样没有成功,这里推荐一个链接,有关于libsvm工具箱的安装配置的视频。
3.数据:ORL人脸库。
这个数据为已经预处理的数据,格式为pgm,属于Linux格式,windows环境下无法直接打开,可以在matlab中打开,打开方式imshow(imread('图片路径'));数据是400张人脸图片,属于40个人,每个人10张,每张大小112*92像素,数据下载地址在第一篇文章中有,这里也给个链接,第四段两个链接都可下载。
4.主成分分析法PCA。
主成分分析法是一种降维的方法,上面给出了几个有用的链接,本文只给出代码,以及代码说明,关于原理,大家尽可参照上面几个链接,写得非常详细也非常通俗。
5.SVM支持向量机分类器。
SVM支持向量机是一个二类分类器,但是本次人脸识别不仅只是分出两类,而是需要分出40个类别。本人以前有过一点机器学习基础,所以在支持向量机原理的理解上没有多大问题,如果读者没有SVM基础,可参考SVM入门(H),以及写的非常给力的帖子,SVM三层境界(I)。
注:也许很多初学者看到这么多的资料,链接都已经晕了,失去了学习的动力。先别灰心,稍后我会把代码以及代码运行的结果和过程展示给大家,当大家看到这些图像的变换的美妙,就会有学习的兴趣。
编程实现:
以下将要展示的是几个.m文件的代码,.m文件即是能在matlab上面打开运行的代码文件,可以在其中定义函数,如果matlab的当前路径指定在含有这些.m文件的文件夹中,运行时就可以调用这些文件中定义的函数。
首先展示第一个.m文件,便是图片数据读取函数ReadFace.m
function[f_matrix,realclass]=ReadFace(n_persons,flag)
%ORL人脸库。pgm格式的图片。40人,每人10幅图,图像大小为112*92像素。
%每个人有10幅照片,前5幅当作训练集,后5幅当作测试集
%
%输入变量flag:
%flag是一个标识变量
%当flag为0时,表示输入为训练集,flag为1时,表示输入为测试集
%
%输入变量n_persons:
%n_persons标志着你想要识别的人脸个数
%
%输出变量realclass:
%realclass是一个n_person*5行,1列的列向量。
%realclass即是数据的标签,无论训练集测试集都进行了标签处理
%
%输出变量f_matrix:
%f_matrix是一个n_person*5行,112*92列的矩阵
%每一行便是每一张图片的灰度数据
%将每一张图片列向量排成一个列向量后转置得到放入f_matrix各行当中
imgrow=112;imgcol=92;
globalimgrow;%载入图片行数
globalimgcol;%载入图片列数
realclass=zeros(n_persons*5,1);
f_matrix=zeros(n_persons*5,imgrow*imgcol);
fori=1:n_persons
%路径设置
%函数num2str(i)说明:将数字转化为字符
facepath=strcat('F:\MATLAB人脸识别\Face\facedata\s',num2str(i),'\');%路径因不同情况而定
cachepath=facepath;
forj=1:5
facepath=cachepath;
ifflag==0
%函数strcat(a,b,...)说明:将输入字符a,b...连接成单个字符
facepath=strcat(facepath,num2str(j));
else
facepath=strcat(facepath,num2str(j+5));
end
realclass((i-1)*5+j)=i;
facepath=strcat(facepath,'.pgm');
%函数imread说明:读取输入路径的图片,将每个像素灰度值保存在输出的矩阵中
img=imread(facepath);
f_matrix((i-1)*5+j,:)=img(:)';
end
end
end
代码当中有着详细的注释,代码与第一篇文章中提供的代码大同小异,根据本人情况修改了一点路径的代码,以及增加了对训练集标签的标识,且增加了注释。现在对代码进行一些说明。
代码第一行有对函数的申明,function []=ReadFace(),中括号为函数的输出,小括号为函数的输入,函数名与文件名一致,一个.m文件当中可以有多个函数申明,但当外面的函数想要调用这个文件中的函数时,只能调用与文件名一致的函数。所以这个文件叫ReadFace.m。
何为训练集以及测试集?
在机器学习方法当中,分为监督学习,非监督学习,强化学习。而SVM支持向量机是一种监督学习的算法。所谓监督学习,就是给予机器一套题目并附上标准答案,让它去做题,自己总结了一套做题的方法(这些方法就是建立的模型),它在根据已经学习好的方法来做一套新的题目,把题目做对,尽可能打高分。
训练集就是给予机器的一套题目及标准答案,测试集就是给它的一套新题。而训练集有标签和数据之分,标签就是标准答案,标签有着1和0,就表示这些训练集中有两类,像我们的人脸数据有40种人脸,我们就用1到40来表示。数据就是有着多维的表征一个事物的数据,就是给机器的第一套题目。测试集也有数据,就是后面给机器测试的题目,如果测试集原本含有标签,这些标签就可以作为标准给机器前面训练总结的方法(模型)打分,查看准确率。
在这个人脸库中,每个人有10张图,我们将前5张作为训练集,就有200张图。用一个矩阵来表示这200张图,就形成了一个200*10304的矩阵。后5张图用来当测试集,可以看代码中的说明。
当flag为0时,找出训练集的标签realclass(200*1的矩阵)与数据f_matrix(200*10304的矩阵).
当flag为1时,就是找出测试集来测试分类效果,得出准确率。
SVM训练的目的就是利用训练集找到这么一个分类函数(模型),再在测试集中检测。关于SVM的具体原理查看上面的H和I篇。
--------------------------------分割线---------------------------------------
第二个.m文件的文件名为fastPCA.m,用于将样本进行降维处理,参考上面主成分分析PCA文章D,E,F篇,上面有通俗且具体的阐述。
function[pcaA,V]=fastPCA(A,k,mA)
%快速PCA,主成份分析
%输入:A-样本矩阵,每行是一个样本,列是样本的维数
%k-降至k维
%mA-图像矩阵f_matrix每一列的均值排成一个行向量,即mean(f_matrix)
%输出:pacA-降维后,训练样本在低维空间中的系数坐标表示
%V-主成分分量,即低维空间当中的基
%
m=size(A,1);%m为读取图片的张数
Z=(A-repmat(mA,m,1));%中心化样本矩阵
%一般用中心化的矩阵代替原矩阵。为什么?因为将数据集的均值归零(预处理),也就是只取数据的偏差部分
T=Z*Z';
[V1,D]=eigs(T,k);%计算T的最大的k个特征值和特征向量
V=Z'*V1;%协方差矩阵的特征向量
%这一点是关键步骤,很可能很多初学者无法理解:
%按理来讲,协方差矩阵的计算公式为(假设上面中心化的Z已经求出):
%V=(Z'*Z)./(size(Z,1)-1)(先不管单位化,V=Z'*Z)(这里是一行为一个样本,一列为一个维数的情况)
%协方差矩阵是N*N的方阵,维数N应该与原图片f_matrix(200*10304)维数相等
%f_matrix中行数200为图片个数,列数10304为维数
%那为什么这里是T=Z*Z',再求T的K个最大特征值和特征向量V1,再用V=Z'*V1来求协方差矩阵特征向量呢?
%因为我们如果求V=Z'*Z这个V就是一个10304*10304的矩阵,MATLAB奔溃了,太复杂
%我们可以这样看P^-1*(Z*Z')*P=S等价于P^-1*(Z')^-1*Z'*Z*Z'*P=S等价于(Z'*P)^-1*(Z'*Z)*(Z'*P)=S
%注:P^-1是P的逆矩阵,(Z')^-1为Z'的逆矩阵,类推,建议大家写在纸上
%最后一个式子可以看出Z'*Z的特征向量矩阵为Z'*P,而Z*Z'的特征向量矩阵为P,即为程序中的V1
%这是一种简便方法,为的就是避免像V=Z'*Z这种维数太高的计算。
%可查看C篇文章步骤4
fori=1:k%特征向量单位化
l=norm(V(:,i));
V(:,i)=V(:,i)/l;
end
%单位化后的V才能是真正的低维空间的基,需要满足正交化单位化两个条件
%具体原因参考D篇文章
pcaA=Z*V;%线性变换,降至k维,将中心化的矩阵投影到低维空间的基中,V就是低维空间的基
%pcaA为低维空间的坐标表示,即一个图像的判断依据
end
代码与第一篇文章代码没有不同,只是多加了注释,便于大家理解。
下面贴出原图,均值脸以及两者的差值图:
-------------------------------------------------分割线---------------------------------------------------------
第三个文件为scaling.m文件,其中的代码与原作者代码无二。略加注释。function[scaledface]=scaling(faceMat,lowvec,upvec)
%特征数据规范化
%即是将同一个样本中的不同维度归一化
%因为因为对于不同的属性,如果不归一化是不具有比较性的,两者不在一个量级上
%输入——faceMat需要进行规范化的图像数据,
%lowvec原来图像数据中的最小值
%upvec原来图像数据中的最大值
upnew=1;
lownew=-1;
[m,n]=size(faceMat);
scaledface=zeros(m,n);
fori=1:m
scaledface(i,:)=lownew+(faceMat(i,:)-lowvec)./(upvec-lowvec)*(upnew-lownew);
%将图像数据中一个样本的不同维度的值,最小值和最大值规范到-1和1,其他值按比例规范到(-1,1)
end
end
-----------------------------------------------------分割线-----------------------------------------------------
第四个文件visualize.m中为显示特征脸的代码,比较简单,并附上显示结果。functionvisualize(B)
%显示特征脸(变换空间中的基向量,即单位特征向量)
%输入:B——每列是个主成分分量,显示的就是低维中每个基组成的图像
%k——主成分的维数
globalimgrow;
globalimgcol;
figure
img=zeros(imgrow,imgcol);
fori=1:20
img(:)=B(:,i);
subplot(4,5,i);
imshow(img,[])
end
end
因为降至20维,所以其在低维中的基便是这20张特征脸,其他所有的经过了降维的脸都可以由这20张特征脸线性表示,即我们要进行脸部识别时,把选择要识别的脸进行降维处理后,再右乘这些基(特征脸)所构成的矩阵,就能得到这些脸在低维中的线性表示。这些表示就是识别的依据。
特征脸截图:
-------------------------------------------------分割线---------------------------------------------------------
第五个文件recognition.m中的代码,在A篇文章当中没有,是我自己编写的脸部识别的小程序,比较简单,没有像A篇文章中一样做GUI界面。functionrecognition(mA,V,model)
%函数作用:人脸识别模块,利用已经建好的模型,重新找一个样本进行识别
%输入:
%mA-均值
%V-协方差矩阵特征向量
%model-通过SVM对训练集训练得出的已经建立好的模型
%%
globalimgrow;
globalimgcol;
%%
%弹出输入框,选择要识别的图片
select_person_num=str2double(cell2mat(inputdlg('请输入想要识别的人的编号(总共40个人):')));%总共40个人
select_img_num=str2double(cell2mat(inputdlg('请输入此人图片的编号(总共10张):')));%总共10张图
%%
%对图片信息进行处理,化为1*10304的行向量
disp('读取选择的图片...')
select_facepath=strcat('F:\MATLAB人脸识别\Face\facedata\s',num2str(select_person_num),'\',num2str(select_img_num),'.pgm');
select_img=imread(select_facepath);
select_matrix=zeros(1,imgrow*imgcol);
select_matrix(1,:)=select_img(:)';
select_matrix=(select_matrix-mA)*V;%PCA降维后的低维表示
%%
%图形归一化
disp('规范化选择的图片...')
select_matrix=scaling(select_matrix,min(select_matrix),max(select_matrix));
%%
%测试选择的图片,accuracy只有两个值,100%表示匹配正确,0%表示匹配错误
disp('测试选择的图片...')
[select_predict_label,accuracy,decision_values]=svmpredict(select_person_num,select_matrix,model);
%%
%显示原有图片和匹配图片进行比较
disp('显示选择的图片...')
figure(2);
subplot(1,2,1);imshow(select_img);title('你选择的图片');
subplot(1,2,2);
imshow(imread(strcat('F:\MATLAB人脸识别\Face\facedata\s',num2str(select_predict_label),'\',num2str(1),'.pgm')));
title('匹配的图片');
程序运行到此会弹出输入框,让用户选择想要识别的图片,当Accuracy=100%表示识别正确,如果Accuracy=0%表示识别错误。
输入编码后选择的图片,以及匹配到的图片对比。
-------------------------------------------------分割线---------------------------------------------------------
第六个文件face.m中的代码为主程序。读者想要看到整个效果,只需要将此文件中的程序全部选中按F9即可运行。
注:我的SVM分类器是用libsvm工具箱当中的函数实现的两个关键函数便是svmtrain和svmpredict,核函数选用线性核函数。
以上暂时是初稿,肯定还有很多需要修改的地方,如果读者有什么疑问或是看到什么错误,希望能留言,我会加以请教。大家相互学习,相互进步。
转自:/yb536/article/details/40586695