Programul de studii: Matematic a si Informatic a Aplicat a n Inginerie [608566]

UNIVERSITATEA POLITEHNICA DIN BUCURES TI
FACULTATEA DE S TIINT E APLICATE
Programul de studii: Matematic a  si Informatic a Aplicat a ^ n Inginerie
PROIECT DE DIPLOM A
CONDUC ATOR S TIINT IFIC, ABSOLVENT: [anonimizat].univ.dr. Vladimir Balan Balaban Beatrix-May
Bucure sti
2018

UNIVERSITATEA POLITEHNICA DIN BUCURES TI
FACULTATEA DE S TIINT E APLICATE
PROIECT DE DIPLOM A
Aplicat ii ale PCA ^ n imagistic a
CONDUC ATOR S TIINT IFIC, ABSOLVENT: [anonimizat].univ.dr. Vladimir Balan Balaban Beatrix-May
Bucure sti
2018

Cuprins
Introducere 1
1 Sintez a de baz a a metodelor clasice 3
1.1 Analiza componentelor principale (PCA) . . . . . . . . . . . . . . . . . 3
1.1.1 Scurt istoric . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 3
1.1.2 Dezvoltarea metodei . . . . . . . . . . . . . . . . . . . . . . . . 3
1.2 Alte metode . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 4
1.2.1 Analiza Discriminatorie Liniar a (LDA) . . . . . . . . . . . . . . 4
1.2.2 ICA . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 7
2 Descrierea procedeului PCA 9
2.1 Algoritmul matematic . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.2 Avantaje  si Dezavantaje . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.3 Comparat ii . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.3.1 PCA vs.LDA . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
2.3.2 PCA vs. ICA . . . . . . . . . . . . . . . . . . . . . . . . . . . . 9
3 Reconstructia imaginilor 11
3.1 Detalii in general . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 11
3.2 Aplicat ie PCA ^ n cazul bidimensional . . . . . . . . . . . . . . . . . . . 11
4 Concluzii nale 13
Index 15
Bibliograe 15
Anexe 16
1

Introducere
=========de ce avem nevoie de recunoasterea faciala==================
^Intr-o societate zbuciumata a necunoscutului, nevoia de sigurant a este din ce in ce mai
mare.
^In ultimele doua decade ingineri din ^ ntreaga lume au continuat sa dezvolte
algoritmi de recunoastere a fetelor umane, sa ii imbunatateasca si sa imbine cunostin-
tele lor cu deprinderile medicilor specialisti si neurologilor care au studiat unicitatea
fetelor si cum este organiata memoria atunci cand vine vorba de retinerea fetelor si a
expresiilor.
Dar ce anume ^ nt elegem prin recunoa stere facial a? Ce presupune aceasta? Pe
parcursul acestei lucr ari ne propunem s a deslu sim toate aceste aspecte.
^Incepem prin a deni recunoasterea facial a.
Denit ia 0.1 Recunoa sterea facial a reprezint a abilitatea de a recunoa ste o persoan a
datorit a caracteristicilor faciale, a sadar ale detaliilor zionomiei.
=============PROCEDEE============
Recunoa sterea automat a a fet ei de c tre computer poate avea diverse abord ari:
bazate pe elemente constitutive sau pe o baz a de fet e. Cea dint^ ai se refer a la relat iile
dintre tras aturile umane (gura,nas,ochi,prol)  si frontier a fet ei. ^Insa extragerea carac-
teristicilor faciale cu exactitate este dicil a. Fiecare fat  a are caracteristici similare, o
mic a derivare ^ n extract ie poate introduce o eroare de clasicare mare.
Metodele primare de detect ie a fetelor sunt urm atoarele:
1.Principle Component Analysis
2.Linear Discriminant Analysis
3.ICA
=================Istoric:================
1

2 Introducere
*de mentionat de transformata PCA006 -transformata Karhunen-Loeve – Sirovich
si Kirby
de pus index pentru transformata K-L *Turk si Pentland -pca006-pt procedeul pca
========================================
-de unde am plecat si unde vreau sa ajung (idee de inceput{>continut{>deznodamantul
lucrarii)
-ce vreau sa demonstrez prin lucrarea de licenta

Capitolul 1
Sintez a de baz a a metodelor clasice
De-a lungul anilor oameni din ^ ntreaga lume au lucrat pentru ^ mbun at at irea metode-
lor folosite ^ n recunoa steri facial a. Dar ce anume ^ nt elegem prin recunoa stere facial a?
Ce presupune aceasta? ^In acest capitol ne propunem s a deslu sim toate aceste aspecte.
^Incepem prin a deni recunoasterea facial a.
Denit ia 1.1 Recunoa sterea facial a reprezint a abilitatea de a recunoa ste o persoan a
datorit a caracteristicilor faciale, a sadar ale detaliilor zionomiei.
Metode primare de detect ie a fetelor sunt urm atoarele:
1.Principle Component Analysis
2.Linear Discriminant Analysis
3.ICA
1.1 Analiza componentelor principale (PCA)
1.1.1 Scurt istoric
Datorit a interesului ar atat fat  a de domeniul interfet elor om-ma sina  si a identic arilor
biometrice, recunoasterea fetelor umane a devenit un subiect foarte cautat ^ nc a din anii
1990. Algoritmul de recunoastere faciala este bazat in mare parte pe PCA.
1.1.2 Dezvoltarea metodei
Analiza componentelor principale (PCA) reprezint a o tehnic a de reducere a dimen-
siunii datelor, folosit a pentru compresie  si recunoa stere facial a. Este una din cele mai
3

4 Capitolul 1. Sintez a de baz a a metodelor clasice
Figura 1.1: Model de instruire folosind observat iile date de Sistem pentru aproximarea
ie sirilor.
cunoscute metode utilizate ^ n principal pentru a reduce dimensiunea ^ n ceea ce privesc
situat iile de compresie  si recunoa stere. PCA mai este cunoscuta si ca Proiectia Vecto-
rilor proprii. [1]
P001
PCA proiecteaza imagini in subspatiu astfel incat prima dimensiune ortogonala
a acestui subspatiu capteaza cea mai mare parte a variantei, iar ultima dimensiune a
acestuia retine cea mai mica parte a variantei ce se regaseste in imagini.
Principalul obiectiv al PCA este reducerea dimensiunii datelor, asadar vectorii
proprii ai matricei covariante trebuie sa e a
ati astfel incat sa se poata gasi solutia.
Vectorii proprii corespund directiilorcomponentelor principale ale datelor initiale (orig-
inale),iar valoarea lor statistica este data de valorile proprii corespunzatoare.
P001
1.2 Alte metode
1.2.1 Analiza Discriminatorie Liniar a (LDA)
Proiect ie datelor pe un subspatiu generat de vectorii proprii semnicativi ai ma-
tricii de autocorelat ie nu ofera ^ n mod automat optimizarea performant elor de clasi-
care, minimiz and totu si eroarea de reconstruct ie. Pentru a maximiza separarea datelor
procesate vom utiliza alt a metod a statistic a de select ie a caracteristicilor numit a Anal-
iza Discriminatorie Liniar a (LDA). [2]
Analiza discriminatorie liniar a este o generalizare a discriminatorului liniar
Fisher, o metod a utilizat a ^ n statistic a, pattern recognition  si machine learning care

1.2. Alte metode 5
caracterizeaz sau separ dou sau mai multe clase de obiecte sau evenimente.
Spre deosebire de PCA, unde se urm are ste o proiect ie ^ n sensul maximiz arii
matricii totale de covariat ie, aici se caut a o proiect ie ^ n sensul maximiz arii matricii
de covariat ie Sb si maximiz arii matricii de covariat ie cumulat a din interiorul claselor
Sw, LDA ^ ncerc^ and s a g aseasc a cea mai bun a direct ie de proiect ie ^ n care vectorii
apart in^ and claselor diferite sa e cel mai bine separat i.
Algoritmul LDA
Consideram C clase cu c^ ate Nivectori de dimensiune n, i=(1…C).[1][3]
1.Calculam matricea Sbde covariat ie intre clase astfel:
Sb=C∑
i=1P(!i)(i)(i)t; (1.1)
unde P( !i)=probabilit at i;
=media claselor C
i=media ecarei clase
2.Matricea de covariat  a cumulat a din interiorul claselor Sweste egal a cu:
Sw=C∑
i=1P(!i1
NiNi∑
j=1(
xjii) (
xjii)t(1.2)
3.Se construie ste matricea Sx1Sb.Calculam valorile proprii ale matricei, ordon^ and
cresc ator valorile proprii obt inute.
jSx1Sb
Inj= 0 (1.3)
Pentru ecare valoare proprie determin am vectorii proprii corespunz atori:
Sx1Sbi=i
i (1.4)
4.Umplem matricea L a transform arii corespunz atoare analizei discriminatorii liniare
cu vectorii proprii gasit i anterior:
L= [ 1;2; : : : ; n]t(1.5)
Fie V vector de intrare. Pentru ecare valoare a lui V se proiecteaza ^ n spat iul
corespunz ator LDA dupa cum urmeaz a:
Y=L
V (1.6)

6 Capitolul 1. Sintez a de baz a a metodelor clasice
5.Componentele m<n din Y vor  ret inute, iar celelalte n-m componente se vor
^ nlocui cu zero, astfel obt in^ andu-se vectorul ~Y.
6.^In nal, vectorul ~Yse va ^ nmult i cu transpusa matricea L pentru ca ~Ys a poat a
 vizualizat ^ n spat iul original. Obt inem:
^X=L1
~Y (1.7)
Matricea ST=Sb+Swse nume ste scatter matric(matricea de ^ mpr a stiere).
Pentru o mai bun a ^ nt elegere a metodei iat a un exemplu al proiect iei LDA folosind
dou a clase. [5]
FieX1=(4,1),(2.4),(2,3),(3,6),(4,4)  si X2=(9,10),(6,8),(9,5),(8,7),(10,8).
Conform algoritmului expus mai sus, obt inem:
S1=[0:80:04
0 2 :64]
;S2=[1:840:04
0 2 :64]

1.2. Alte metode 7
1=[
3:0 3:6]t;2=[
8:4 7:6]t
Aplic^ and formula matricei de covariat  a cumulat a din interiorul claselor Sw si cea a
matricei Sbde covariat ie intre clase rezult a c a:
Sb=[29:16 21 :6
0 16 :0]
;Sw=[2:640:44
0 5 :28]
Proiect ia metodei LDA este obt inut a prin rezolvarea problemei legate de valoare vec-
torilor proprii conform formulei (1.4).
Sw1Sb =) jSw1Sbj= 0)11:88 8:81
5:08 3 :76= 0)= 15:65
O alta abordare este folosirea direct a a formulii:
w=Sw1(12) =[
0:910:39]t
Folosind metoda LDA putem generaliza probleme de clasicare av^ and un num ar
oarecare C 2,^ nsa numarul de directii posibile este egal cu C-1. Acest fapt poate
 considerat un dezavantaj mare atunci c^ and vine vorba de extragerea unor detalii
deoarece, folosind date de dimensiune mare, ele apart in unui num ar limitat de clase.
Astfel,de cele mai multe ori, ^ naintea aplic arii metodei LDA, se va reduce dimension-
alitatea vectorilor init iali folosind tehnica analizei componentelor principale (PCA).
Un dezavantaj pe care ^ l regasim la ambele metode prezentate anterior (PCA  si LDA)
^ l reprezinta folosirea exclusiv a a datelor de intrare, f ar a a lua ^ n considerare categoria
din care acestea fac parte.
Trebuie s a avem grij a la urm atorul aspect: prin reducerea num arul de vectori rezult a
faptul c a estimarea valorilor medii si a matricelor Sb siSweste irelevant a statistic
vorbind.
1.2.2 ICA

8 Capitolul 1. Sintez a de baz a a metodelor clasice

Capitolul 2
Descrierea procedeului PCA
2.1 Algoritmul matematic
2.2 Avantaje  si Dezavantaje
2.3 Comparat ii
2.3.1 PCA vs.LDA
2.3.2 PCA vs. ICA
9

10 Capitolul 2. Descrierea procedeului PCA

Capitolul 3
Reconstructia imaginilor
3.1 Detalii in general
Notit e: Pot avea aplicatii Big Data -ret ele sau arbori, dar  si date->matriceal
3.2 Aplicat ie PCA ^ n cazul bidimensional
11

12 Capitolul 3. Reconstructia imaginilor

Capitolul 4
Concluzii nale
Perspective ale temei proiectului in domeniu ; daca imi propun sa continui cercetarea
in domeniu
13

Index
Matrice de covariat ie, 5
Metode clasice
Analiza componentelor independente
(ICA), 6
Analiza componentelor principale (PCA),
3
Analiza Discriminatorie Liniar a (LDA),
4
Recunoa sterea fet elor, 3
14

Bibliograe
[1]Onsen Toygar, Adnan Acan, Face Recognition using PCA,LDA,ICA , Journal of
Electrical and Electronics Engineering, 3,1,(2003),736-737.
[2]I. Ciocoiu, <a href="http://scs.etc.tuiasi.ro/iciocoiu/courses"></a>
[3]http://www.victorneagoe.com/university/prai/lab3a.pdf
[4]V. E. Neagoe, O. Stanasila, Recunoasterea formelor si retele neurale (Pattern
recognition and neural networks) , Ed.MatrixRom, Bucuresti, 1999.
[5]http://research.cs.tamu.edu/prism/lectures/pr/prl10.pdf
15

16 Anexe

Anexe
17