Director, Sound and Furry Laboratory [618373]
Thesis Title
by
A. U. Thor
B.S., University of California (1980)
S.M., Massachusetts Institute of Technology (1984)
Submitted to the Department of Electrical Engineering and Computer Science
in partial ful
llment of the requirements for the degrees of
Doctor of Philosophy
and
Master of Science
at the
UNIVERSITY OF NEW MEXICO
June 1999
c
Remove to use default copyright from the style
The author hereby grants to University of New Mexico permission to reproduce and
to distribute copies of this thesis document in whole or in part.
Signature of Author . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Department of Electrical Engineering and Computer Science
13 May 1998
Certi
ed by . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
David Collis
Director, Sound and Furry Laboratory
Research Head
Certi
ed by . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
George D. Pearson
Director, Technical Support
Thesis Supervisor
Accepted by. . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . .
Arthur C. Clarke
Chairperson, Department Committee on Graduate Students
Thesis Title
by
A. U. Thor
Submitted to the Department of Electrical Engineering and Computer Science
on 13 May 1998, in partial ful
llment of the
requirements for the degrees of
Doctor of Philosophy
and
Master of Science
Abstract
Replace with the thesis abstract
Research Head: David Collis
Title: Director, Sound and Furry Laboratory
Thesis Supervisor: George D. Pearson
Title: Director, Technical Support
2
Part I
NOI REZULTATE PRIVIND
ENTROPIA CUMULATIV ¼A ¸ SI
MODELAREA ENTROPIC ¼A
3
CUPRINS
1. INTRODUCERE
1.1. Motiva¸ tia ¸ si importan¸ ta cercet ¼arii
1.2. Stadiul actual al cunoasterii domeniului studiat
1.3. Problematica cercet ¼arii
1.4. Metodologia cercet ¼arii
1.5. Structura tezei
2. ENTROPIA CUMULATIV ¼A PONDERAT ¼A PERECHE INTERVAL
2.1. Introducere
2.2. Entropia cumulativ ¼a ponderat ¼a pereche interval
2.3. Margini pentru entropia cumulativ ¼a ponderat ¼a pereche interval
2.4. Entropia Tsallis cumulativ ¼a rezidual ¼a ponderat ¼a interval.
2.5. Entropia Tsallis cumulativ ¼a ponderat ¼a interval.
3. ESTIM ¼ARI ALE ENTROPIEI CUMULATIVE REZIDUALE PONDERATE ¸ SI ALE
ENTROPIEI CUMULATIVE PONDERATE
3.1. Introducere
3.2. Reprezent ¼ari echivalente ale CRE w¸ siCEw
3.3. Reprezent ¼ari echivalente ale CREt
w¸ siCEt
w
3.4. Entropia cumulativ ¼a rezidual ¼a ponderat ¼a
3.4.1. Entropia cumulativ ¼a rezidual ¼a ponderat ¼a. Propriet ¼a¸ ti
3.4.2. Entropia cumulativ ¼a rezidual ¼a ponderat ¼a condi¸ tionat ¼a
3.4.3. Entropia cumulativ ¼a rezidual ¼a ponderat ¼a ¸ si entropia diferen¸ tial ¼a
3.4.4. Entropia cumulativ ¼a rezidual ¼a ponderat ¼a ¸ si entropia cumulativ ¼a rezidual ¼a
ponderat ¼a empiric ¼a
3.4.5. O aplica¸ tie a entropiei cumulative reziduale ponderate în teoria
abilit ¼a¸ tii
3.5. Informa¸ tia Kullback-Leibler cumulativ ¼a empiric ¼a
3.5.1. Informa¸ tia Kullback-Leibler cumulativ ¼a empiric ¼a ponderat ¼a
3.5.2. Informa¸ tia Kullback-Leibler cumulativ ¼a empiric ¼a Tsallis
3.5.3. Informa¸ tia Kullback-Leibler cumulativ ¼a empiric ¼a Tsallis ponderat ¼a
4
3.6. O caracterizare a entropiei reziduale cumulative
3.7. Entropia cumulativ ¼a rezidual ¼a Weibull Test de baz ¼a pentru reparti¸ tie
4.UN MODEL GENERAL DE ENTROPIE CUMULATIV ¼A PONDERAT ¼A PERECHE
4.1. Introducere
4.2. Entropia cumulativ ¼a ponderat ¼a pereche ('1; '2)
4.3.CPE '1;'2pentru date grupate
4.4. Reprezent ¼ari alternative ale CPE '1;'2
4.5. Limit ¼a superioar ¼a pentru CPE '1;'2
4.6. Reparti¸ tii maxime de probabilitate ale CPE '1;'2pentru medie si dispersie date.
4.7CPE '1;'2:Propriet ¼a¸ ti
4.8. Propriet ¼a¸ ti ale CPE '1;'2pentru m ¼asura de scal ¼a
4.9.CPE '1;'2pentru suma a dou ¼a variabile aleatoare independente
4.10. Estim ¼ari ale CPE '1;'2
5. MODELE ENTROPICE GENERALE DE DEPENDEN¸ T ¼A
5.1. Introducere
5.2. Model statistic ponderat
5.2.1. Modelul entropic
5.2.2. Modelul entropic de dependen¸ t ¼a ponderat
6. CONCLUZII
6.1. Contribu¸ tii originale
6.2. Perspective viitoare de cercetare
6.2.1. Modelul entropic Tsallis. Rezultate preliminare
6.2.2. Modelul entropic de dependen¸ t ¼a Tsallis
6.3. Lista de publica¸ tii
BIBLIOGRAFIE
5
MUL¸ TUMIRI
Doresc ca în debutul tezei de doctorat s ¼a îmi exprim întreaga recuno¸ stint ¼a ¸ si gratitudine fa¸ t ¼a
de domnul profesor universitar doctor Vasile PREDA în calitatea domniei sale de coordonator
¸ stiin¸ ti
c, transmi¸ tându-i pe aceast ¼a cale o deosebit ¼a considera¸ tie, respect ¸ si mul¸ tumiri pentru
atitudinea determinant ¼a în realizarea cercet ¼arii ¸ stiinti
ce, pentru r ¼abdarea ¸ si întelegerea pe care
mi-a oferit-o pe tot parcursul realiz ¼arii ¸ si
naliz ¼arii lucr ¼arii. De asemenea, doresc s ¼a exprim
recuno¸ stin¸ ta ¸ si mul¸ tumiri tuturor celor care m-au încurajat ¸ si sus¸ tinut pe tot parcursul scolii
doctorale dar ¸ si în perioada de realizare a studiilor si cercet ¼arilor care au concurat la elaborarea
cercet ¼arii ¸ stiin¸ ti
ce.
În acela¸ si timp adresez mul¸ tumiri tuturor cadrelor didactice ale Facul¸ t ¼atii de Matematic ¼a ¸ si
Informatic ¼a din cadrul Universit ¼a¸ tii din Bucure¸ sti ¸ si cercet ¼atorilor de la Institutul de Matem-
atic¼a Simion Stoilow al Academiei Române care au contribuit la formarea mea ¸ si pentru
îndrum ¼arile de o real ¼a valoare concretizate în aceast ¼a lucrare.
Doresc s ¼a mul¸ tumesc anticipat acelora care vor dori s ¼a continue, s ¼a dezvolte ¸ si s ¼a avanseze
sugestii în sensul aprofund ¼arii studiului în asa fel încât acesta s ¼a poat ¼a
aplicat ¸ si extins c ¼atre
noi domenii de cercetare.
Bineînteles, cele prezentate constituie o mic ¼a baz ¼a pentru demersuri viitoare, iar a
rma¸ tiile
¸ si solu¸ tiile propuse în aceast ¼a lucrare, bazate pe cercet ¼arile întreprinse ¸ si informatiile adunate,
nu sunt limitative ¸ si reprezint ¼a un minim de aspecte tratate în cadrul acestei teme.
Nu în ultimul rând, doresc s ¼a mul¸ tumesc familiei mele pentru suportul ¸ si întelegerea de care
au dat dovad ¼a în toat ¼a perioada realiz ¼arii acestei cercet ¼ari ¸ stiin¸ ti
ce.
6
NOTA¸ TII ¸ SI ABREVIERI
(
; K; P )- câmp
nit de probabilitate, unde (
; K)- este un câmp
nit de evenimente,
iarP:K!Reste o probabilitate.
X- o variabil ¼a aleatoare, în general presupus ¼a ne-negativ ¼a, absolut continu ¼a pe (
; K; P ):
F(x) =P(Xx)- func¸ tia de reparti¸ tie cumulativ ¼a a variabilei aleatoare X.
F(x) = 1 F(x) =P(X > x )- func¸ tia de supravie¸ tuire a variabilei aleatoare X.
Oriunde apare func¸ tia F, vom presupune c ¼a este continu ¼a ¸ si inversabil ¼a, inversa acesteia
ind notat ¼a cu F 1:
f(x)- densitatea de probabilitate a variabilei aleatoare X;de regul ¼a, pe domeniul pe care
se lucreaz ¼a presupunem f(x)>0:
D=f(t1; t2)=0t1< t2 1; F(t1)< F (t2)g:
EX('(X))- media variabilei aleatoare '(X)în raport cu densitatea de probabilitate a
variabilei aleatoare X, unde 'este o aplica¸ tie m ¼asurabil ¼a. Vom presupune c ¼aEX('(X))exist¼a
¸ si este
nit ¼a.
EZ('(Z))- media variabilei aleatoare '(Z)în raport cu reparti¸ tia variabilei aleatoare
Z, unde 'este o aplica¸ tie m ¼asurabil ¼a ¸ siZeste o variabil ¼a aleatoare repartizat ¼a uniform pe
intervalul [0;1]sau, uneori, pe intervalul [a; b]:Vom presupune c ¼aEZ('(Z))exist¼a ¸ si este
nit ¼a.
EX;Y('(X; Y ))- media variabilei aleatoare sau vectorului aleator '(X; Y )în raport cu
densitatea de probabilitate a vectorului aleator (X; Y ):
CPIE w1;w2(X;t1; t2)- entropia cumulativ ¼a ponderat ¼a pereche interval a variabilei aleatoare
Xpe intervalul [t1; t2]cu func¸ tiile pondere w1siw2:
Ht
w1(X)- entropia cumulativ ¼a rezidual ¼a ponderat ¼a Tsallis a unei variabile aleatoare X;cu
func¸ tia pondere w1:
Ht
w2(X)- entropia cumulativ ¼a ponderat ¼a Tsallis a unei variabile aleatoare X;cu func¸ tia
pondere w2:
IHt
w1(X;t1; t2)- entropia Tsallis cumulativ ¼a rezidual ¼a ponderat ¼a interval a unei variabile
aleatoare X; t 1Xt2;cu func¸ tia pondere w1:
IHt
w2(X;t1; t2)- entropia Tsallis cumulativ ¼a ponderat ¼a interval a unei variabile aleatoare
X; t 1Xt2;cu func¸ tia pondere w2:
7
CPE '1;'2(X)- entropia cumulativ ¼a'1; '2 ponderat ¼a pereche a variabilei aleatoare X.
Uneori aceast ¼a entropie va
notat ¼aCPE '1;'2(F), unde Freprezint ¼a func¸ tia de reparti¸ tie a
variabilei aleatoare X.
CPE '1;'2(X; Y )- entropia '1; '2 cumulativ ¼a pereche a vectorului aleator (X; Y ):
CEw(X)- entropia cumulativ ¼a ponderat ¼a a variabilei aleatoare X:
CRE w(X)- entropia cumulativ ¼a rezidual ¼a ponderat ¼a a variabilei aleatoare X:
CEt
w(X)- entropia cumulativ ¼a ponderat ¼a Tsallis a variabilei aleatoare X:
CRE w(X)- entropia cumulativ ¼a rezidual ¼a ponderat ¼a Tsallis a variabilei aleatoare X:
"w(X)- entropia cumulativ ¼a rezidual ¼a ponderat ¼a a vectorului aleator
nit dimensional X:
cov(X; Y )- covarian¸ ta variabilelor aleatoare XsiY.
(X; Y; Z )- matricea de covarian¸ t ¼a a vectorilor aleatori X; Y; Z:
var(X)- dispersia (varian¸ ta) variabilei aleatoare X.
C(;)- func¸ tia cupla bidimensional ¼a (engl. copula )
c(u; v)- densitatea de probabilitate a func¸ tiei cupla.
IHw- entropia cumulativ ¼a ponderat ¼a empiric ¼a.
IHw- entropia cumulativ ¼a ponderat ¼a rezidual ¼a empiric ¼a.
IHt
w- entropia cumulativ ¼a ponderat ¼a empiric ¼a Tsallis.
IHt
w- entropia cumulativ ¼a ponderat ¼a rezidual ¼a empiric ¼a Tsallis.
log() = ln( );unde ln()desemneaz ¼a logaritmul natural.
0 log 0 = 0 log 1= 0(conven¸ tie).
0 lnt
q0 = 0 lnt
q1= 0(conven¸ tie).
lnt
qx=x1 q 1
1 q; x > 0; q2R f1g:
expt
qx= (1 + (1 q)x)1=1 q;1 + (1 q)x > 0; q2R f1g:
Sq(X) =Sq(p1; p2; :::; p n)- entropia Tsallis a variabilei aleatoare discrete X, cu pi=
P(X=xi); i=1; n:
I(Xx) =1; Xx
0; X > x- este func¸ tia caracteristic ¼a a evenimentului Xx:
8
Chapter 1
Introducere
1.1 Motiva¸ tia ¸ si importan¸ ta cercet ¼arii
S¼a nu pierdem nimic din trecut, cu trecutul se cl ¼ade¸ ste viitorul este a
rma¸ tia lui Anatole
France care ne-a înt ¼arit convingerea c ¼a pentru a crea o lucrare ¸ stiin¸ ti
c ¼a este necesar ¼a o in-
trospec¸ tie a experien¸ tei transmise de predecesori, întrucât documentarea insu
cient ¼a ar putea
conduce la redescoperiri inutile sau ar orienta cercetarea în direc¸ tii gre¸ site, care trebuie evitate.
În anul 1865, Rudolf Clausius a introdus conceptul de entropie în cartea sa Teoria mecanic ¼a
a c¼aldurii (engl. Mechanical Theory of Heat ) ¸ si l-a aplicat în lucr ¼arile sale viitoare, dintre
care amintim Tratat despre teoria c ¼aldurii (germ. Abhandlungen über wärmetheorie ) din
anul 1884 cu scopul de a descrie o cantitate care însoteste o schimbare de la energia termic ¼a la
cea mecanic ¼a.
Ludwig Boltzman, în lucrarea Prelegeri despre teoria gazelor (germ. Vorlesungen über
gastheorie ) din anul 1896 a dat entropiei termodinamice o interpretare statistic ¼a, identi
când
leg¼atura dintre entropia termodinamic ¼a si tulburarea molecular ¼a.
În anul 1948, Claude Elwood Shannon ¸ si Norbert Wiener au dat conceptului de entropie
semni
ca¸ tia de m ¼asur¼a a informa¸ tiei furnizate de un experiment probabilistic sau de o variabil ¼a
aleatoare, având la baz ¼a entropia introdus ¼a de Boltzman. Entropia Shannon poate
considerat ¼a
o generalizare a entropiei de
nite de Hartley, când probabilitatea
ec ¼arui eveniment este aceea¸ si.
Lucrarea lui Hartley a r ¼amas în mare parte neobservat ¼a.
Entropia reprezint ¼a un concept universal în ¸ stiint ¼a, utilizat pentru cuanti
carea unei serii de
9
evenimente aleatoare. De¸ si notiunea de entropie a fost introdus ¼a în termodinamica clasic ¼a ca o
variabil ¼a de stare termodinamic ¼a, aceasta se bazeaz ¼a pe concepte studiate în teoria probabilit ¼a¸ tii
si statisticii matematice.
No¸ tiunea de entropie este în¸ teleas ¼a diferit în cadrul disciplinelor ¸ stiin¸ ti
ce: în
zica clasic ¼a
reprezint ¼a variabila de stare termodinamic ¼a, în teoria comunic ¼arii reprezint ¼a e
cien¸ ta trans-
miterii comunic ¼arii, în teoria sistemelor generale, entropia desemneaz ¼a magnitudinea ordinii
con
gura¸ tionale, în ecologie semni
c ¼a m¼asura pentru biodiversiatate, în statistic ¼a reprezint ¼a
gradul de dezordine.
Numit p ¼arintele teoriei informa¸ tiei , C. Sahnnon, matematician ¸ si inginer american, a
ob¸ tinut primele rezultate în domeniu, publicate în celebra sa lucrare O teorie matematic ¼a a
comunica¸ tiilor (engl. A mathematical theory of communication ) [?], publicat ¼a în dou ¼a p¼ar¸ ti,
în numerele din iulie si octombrie ale revistei Bell System Technical Journal . Preocuparea
principal ¼a a autorului în aceast ¼a lucrare a fost cea a descoperirii celei mai bune codi
c ¼ari
posibile a informa¸ tiei pe care dore¸ ste s ¼a o transmit ¼a cineva ¸ si a dezvoltat-o aplicând no¸ tiuni de
teoria probabilita¸ tii. Teoria informa¸ tiei s-a impus în comunitatea oamenilor de ¸ stiint ¼a,
xând
un cadru general de abordare a problemelor legate de comunica¸ tii (telecomunica¸ tii).
Motiva¸ tia alegerii temei de cercetare Noi rezultate privind entropia cumulativ ¼a ¸ si modelarea
entropic ¼aeste justi
cat ¼a de faptul c ¼a entropia cunoa¸ ste o apreciere ¸ si o recunoa¸ stere din ce
în ce mai mare,
ind aplicat ¼a cu succes în diferite ramuri ale ¸ stiintei, fapt care determin ¼a
necesitatea aprofund ¼arii ¸ si extinderii aplica¸ tiilor acestei m ¼asuri.
Un argument în acest sens este dezvoltarea spectaculoas ¼a pe care entropia a cunoscut-o, de
la introducerea ei de c ¼atre Shannon pân ¼a în prezent. Odat ¼a cu descoperirea entropiei a fost
deschis ¼a o nou ¼a ramur ¼a a matematicii, putând
aplicat ¼a în numeroase domenii de activitate
cu scopul de a e
cientiza procesele speci
ce acestora, precum: ecologie [ ?], teoria informa¸ tiei
[?], statistic ¼a matematic ¼a [?], neurobiologie [ ?], comprimarea datelor [ ?], analiza
nanciar ¼a [?].
Datorit ¼a complexit ¼a¸ tii sale, consider ¼am entropia un domeniu important de cercetare, tem-
atica aleas ¼a este de actualitate, evolu¸ tia pe care o are necesit ¼a o munc ¼a de cercetare ¸ si docu-
mentare, de culegere a informa¸ tiilor ¸ si cuno¸ stin¸ telor pentru dezvoltarea ei.
Succesul înregistrat în domeniul teoriei informa¸ tiei dup ¼a introducerea entropiei este con
r-
mat de rezultatele ob¸ tinute de matematicieni celebri, printre care men¸ tion ¼am: S. Kullback, J.
10
von Neumann, D.K.Faddeev, A.J. Khinchin, E.T. Jaynes, A.N. Kolmogorov, A. Renyi.
Rao, Chen, Vemuri, Wang [ ?] au introdus o nou ¼a m¼asur¼a a informa¸ tiei bazat ¼a pe repar-
ti¸ tia cumulativ ¼a a unei variabile aleatoare, numit ¼a entropie cumulativ ¼a rezidual ¼a (CRE),
ind
mult mai general ¼a decât entropia lui Shannon. Întrucât este aplicabil ¼a atât în cazul continuu
cât ¸ si în cel discret, o vom considera m ¼asur¼a consistent ¼a. Se poate aplica în variate domenii
de cercetare. În acest sens, amintim lucr ¼arile lui F. Wang, B.C. Vemuri, [ ?] ¸ si M. Rao, Y.
Chen, B.C. Vemuri, F. Wang, [ ?], [?], care prezint ¼a aplica¸ tii ale entropiei cumulative reziduale,
precum alinierea imaginilor ¸ si similitudinea dintre imagini. Versiuni generalizate ale entropiei
cumulative reziduale au fost prezentate în anul 2008 de N. Drissi, T. Chonavel, J.M. Boucher,
[?] ¸ si Zografos, Nadarajah în anul 2005 [ ?].
În analogie cu masura introdus ¼a de Rao, Antonio di Crescenzo ¸ si Maria Longobardi [ ?] au
propus o nou ¼a m¼asur¼a a informa¸ tiei, numit ¼a entropie cumulativ ¼a (CE), o alternativ ¼a a entropiei
diferen¸ tiale clasice. Aceasta se dovedeste a
deosebit de util ¼a pentru a m ¼asura informa¸ tiile
privind timpul de inactivitate al unui sistem, adic ¼a timpul scurs între e¸ secul unui sistem si
momentul în care se descoper ¼a c¼a a e¸ suat.
F. Misagh, Y. Panahi, G.H. Yari, R. Shahi, [ ?] au de
nit no¸ tiunile de entropie rezidual ¼a
cumulativ ¼a ponderat ¼a ¸ si entropie cumulativ ¼a ponderat ¼a. Au studiat propriet ¼a¸ ti ale acestor
m¼asuri ¸ si au eviden¸ tiat leg ¼aturile lor cu CRE ¸ si CE. Extinderi ale entropiei ponderate sunt
prezentate în Y. Suhov ¸ si S.Y. Sekeh [ ?].
În studiile hidrologice, exist ¼a o varietate de cazuri în care modelarea variabilelor hidrolog-
ice multidimensionale prezint ¼a un interes deosebit. Exemplele includ, dar nu se limiteaz ¼a la,
analiza frecven¸ tei duratei ¸ si severit ¼a¸ tii secetei [ ?], [?], intensitatea ¸ si durata precipita¸ tiilor [ ?]
sau vârfurile ¸ si volumul inunda¸ tiilor [ ?], [?]. Modelarea ¸ si evaluarea dependen¸ tei între diferite
variabile ar avea o importan¸ t ¼a critic ¼a pentru plani
carea ¸ si gestionarea resurselor de ap ¼a.
În ultimele decenii s-au dezvoltat ¸ si s-au aplicat diferite tehnici pentru modelarea ¸ si analiza
variabilelor multidimensionale, dintre care entropia ¸ si cupla au atras atentia [ ?], [?]. Entropia
este o m ¼asur¼a a incertitudinii variabilelor aleatoare ¸ si a fost utilizat ¼a pentru o multitudine de
aplica¸ tii (de exemplu, în hidrologie [ ?], [?], [?], [?]). Cupla ofer ¼a o modalitate exibil ¼a de a
construi reparti¸ tii comune ale variabilelor aleatoare, independent de reparti¸ tiile lor marginale
de probabilitate ¸ si au stimulat o sumedenie de aplica¸ tii în hidrologie în ultimii ani [ ?], [?], [?].
11
Recent s-au depus eforturi pentru integrarea celor dou ¼a concepte [ ?], [?], [?], iar aplica¸ tiile în
hidrologie au ap ¼arut [ ?], [?], [?], [?], [?].
Exist ¼a dou ¼a direc¸ tii pentru integrarea teoriei entropiei ¸ si a func¸ tiei cupla. Prima direc¸ tie
este de a obtine func¸ tia de reparti¸ tie comun ¼a pe baza principiului entropiei maxime sau en-
tropiei minime încruci¸ sate (denumit ¼a cupla entropic ¼a) [?], [?], [?]. O integrare direct ¼a celor
dou¼a m¼asuri amintite mai sus este dat ¼a de constructia repartitiei comune folosind cupla cu
repartitii marginale derivate din teoria entropiei [ ?], [?]. Avantajul utiliz ¼arii repartitiilor mar-
ginale bazate pe entropie este exibilitatea în modelarea distribu¸ tiilor marginale prin p ¼astrarea
diferitelor propriet ¼a¸ ti ale observa¸ tiilor, cum ar
momentele, care cuprind reparti¸ tiile utilizate
în mod obi¸ snuit, precum reparti¸ tiile normale ¸ si gama, drept cazuri speciale [ ?], [?]. Progresul
remarcabil al cuplei entropice este dezvoltarea familiilor cupla cu principiul entropiei maxime.
Prin speci
carea restric¸ tiilor marginale la modelul propriet ¼a¸ tilor distributiilor de probabilitate
marginal ¼a ¸ si a restric¸ tiilor comune pentru modelarea dependen¸ tei, familiile cupla pot
con-
struite pe baza teoriei entropiei atât pentru forma continu ¼a [?], [?], [?], [?], cât ¸ si pentru forma
discret ¼a [?].
Cea de-a doua direc¸ tie de integrare a teoriei entropiei ¸ si func¸ tiei cupla o reprezint ¼a expri-
marea informa¸ tiei mutuale cu ajutorul func¸ tiei cupla (numit ¼a cupla entropic ¼a) pentru m ¼asurile
de dependen¸ t ¼a, care descompun con¸ tinutul global de informa¸ tii al repartitiei multidimensionale
în componenta marginal ¼a [?]. Modelarea ¸ si m ¼asurarea dependen¸ tei sunt subiecte importante
în aplica¸ tia hidrologic ¼a ¸ si s-au folosit diferite m ¼asuri de dependen¸ t ¼a, cum ar
coe
cientul de
corela¸ tie Pearson, corela¸ tiile rangurilor Spearman ¸ si Kendall [ ?], [?], care sunt aplicabile în
cea mai mare parte m ¼asur¼arii dependen¸ tei a dou ¼a variabile aleatoare. M ¼asura de dependen¸ t ¼a
bazat ¼a pe informa¸ tii, informa¸ tia mutual ¼a (MI), ofer ¼a un nou punct de vedere al dependen¸ tei
prin m ¼asurarea distan¸ tei dintre dou ¼a reparti¸ tii. Cupla entropic ¼a ofer ¼a o alternativ ¼a atractiv ¼a
în m¼asurarea dependen¸ tei neliniare a variabilelor aleatoare multidimensionale.
Orice activitate de cercetare,
e c ¼a este orientat ¼a spre stabilirea unor noi teorii,
e c ¼a are
drept scop veri
carea punerii în practic ¼a a unor aspecte teoretice deja existente, poate
clasi-
cat¼a în dou ¼a categorii: cercetarea inductiv ¼a, de la practic ¼a la teorie si cercetare deductiv ¼a,
de la teorie la practic ¼a. Asa cum din punct de vedere teoretic cele dou ¼a metode de cercetare
amintite coexist ¼a, ¸ si din punct de vedere practic asist ¼am la o inter-relationare a lor, exclusivi-
12
tatea uneia sau a alteia în momentul punerii efective în aplicare
ind greu de stabilit datorit ¼a
interdependen¸ telor ce exist ¼a în general între teoretic si empiric. Nu exist ¼a teorii care s ¼a nu aib ¼a
la baz ¼a un minimum de date practice, dup ¼a cum nu exist ¼a studii empirice care s ¼a nu porneasc ¼a
de la un minim de informa¸ tii teoretice.
Prin intermediul acestui studiu ne-am propus s ¼a oferim literaturii de specialitate o viziune
cuprinz ¼atoare asupra entropiei cumulative ¸ si a model ¼arii entropice ¸ si consider ¼am c ¼a am realizat
acest lucru construind versiuni mai generale ale conceptelor existente în cadrul domeniului
cercetat la momentul demar ¼arii studiului nostru. Principala modalitate de lucru a fost cea
extinderii rezultatelor din literatur ¼a c¼atre versiuni ponderate ale lor. Din totalitatea lucr ¼arilor
de specialitate noi ne-am îndreptat aten¸ tia în mod deosebit asupra acelora care con¸ tin concepte
de un real succes, acest lucru
ind evidentiat de numeroasele posibilit ¼a¸ ti de aplicare în cotidian.
Rezultatele ob¸ tinute în cadrul acestei cercet ¼ari ¸ stiin¸ ti
ce sunt mai generale decât cele existente
în literatur ¼a, datorit ¼a func¸ tiilor pondere care apar în de
ni¸ tiile lor ¸ si consider ¼am c ¼a pot
valorizate cel putin în acelea¸ si domenii în care modele ini¸ tiale au fost.
În aceste condi¸ tii, pe fondul dezvolt ¼arii aplicabilit ¼a¸ tii entropiei, nu este lipsit ¼a de interes
luarea în considerare al ¼aturi de cercetarea deductiv ¼a ¸ si a celei inductive, pentru a putea face
fa¸ t¼a schimb ¼arilor survenite.
1.2 Stadiul actual al cunoa¸ sterii domeniului studiat
Dimensionarea stadiului actual al cunoa¸ sterii privind cercetarea entropiei cumulative ¸ si a mod-
el¼arii entropice se refer ¼a la cunoa¸ sterea bazei de date pe care o de¸ tinem la momentul demar ¼arii
cercet ¼arii ¸ stiin¸ ti
ce, unde ne situ ¼am ¸ si ce dorim s ¼a ob¸ tinem ca urmare a acestei ac¸ tiuni. Intere-
sul fa¸ t ¼a de prezenta cercetare ¸ stiin¸ ti
c ¼a ¸ si premisele care au determinat alegerea temei propuse
sunt rezultat al existen¸ tei multitudinii de lucr ¼ari de specialitate în care sunt abordate secven¸ tial
diverse aspecte care au trezit interesul nostru fa¸ t ¼a de prezenta cercetare pe de-o parte, dar ¸ si
lipsa unui material integrat care s ¼a cuprind ¼a o abordare a entropiei cumulative ponderate ¸ si a
model ¼arii entropice.
Din literatura de specialitate studiat ¼a, coincid interesului nostru de studiu o serie de lucr ¼ari
de valoare dintre care amintim: I. Klein, B. Mangold, M. Doll, Cumulative Paired - Entropy ,
13
[?]; A. Di Crescenzo, M. Longobardi, Some properties and applications of cumulative Kullback-
Leibler information , [ ?]; B. Chu, S. Satchell, Recovering the most entropic copulas from
preliminary knowledge of dependence , [ ?]; S. Yasaei Sekeh, G.R. Mohtashami Borzadran, A.H.
Rezaei Roknabadi, A note on double truncated (interval) weighted cumulative entropies , [ ?];
S. Baratpour, F. Khodadadi, A cumulative residual entropy characterization of the Rayleigh
distribution and related goodness-of-
t test , [ ?]; M. Rao, Y. Chen, B.C. Vemuri, F. Wang,
Cumulative residual entropy, a new measure of information , [ ?].
Întrucât entropia diferen¸ tial ¼a Shannon s-a dovedit a nu
e
cient ¼a pentru anumite aplica¸ tii
[?], cercet ¼atorii au introdus o serie de m ¼asuri alternative ale informa¸ tiei, pe care le vom aminti
în cele ce urmeaz ¼a.
Conceptul de entropie diferen¸ tial ¼a a fost extins la cel de entropie relativ ¼a, numit ¼a informa¸ tie
Kullback-Leibler [ ?], ce reprezint ¼a o m ¼asur¼a de discrepan¸ t ¼a între dou ¼a reparti¸ tii.
Dup¼a mai bine de o jum ¼atate de secol, S. Park, M. Rao, D.W. Shin, [ ?] introduc informa¸ tia
Kullback-Leibler cumulativ ¼a, exprimat ¼a în raport cu func¸ tia de reparti¸ tie cumulativ ¼a. În anul
2015, A. Di Crescenzo ¸ si M. Longobardi [ ?] prezint ¼a numeroase propriet ¼a¸ ti ¸ si aplica¸ tii ale infor-
ma¸ tiei Kullback-Leibler cumulative. Tot aici autorii aduc o contribu¸ tie important ¼a domeniului
analizei imaginilor prin intermediul unui nou concept, ¸ si anume informa¸ tia Kullback-Leibler
cumulativ ¼a empiric ¼a. În acest sens, sunt studiate discrepan¸ tele ce apar în nivelurile de gri ale
unor imagini digitalizate. Metode deosebit de folositoare pentru analiza imaginilor ob¸ tinute
de la senzori reali au fost studiate de numero¸ si cercet ¼atori, printre care men¸ tion ¼am: Frery,
A.C., Nascimento, A.D.C., Cintra, R.J., [ ?] în anul 2011 ¸ si respectiv Contreras-Reyes, J.E.,
Arellano-Valle, R.B., [ ?] în anul 2012.
Entropia are o importan¸ t ¼a major ¼a în codi
carea ¸ si transmiterea informa¸ tiilor în contextul
sistemelor biologice ¸ si inginere¸ sti. În anul 2004, Johnson ¸ si Glantz [ ?] invoc ¼a entropia în sfera
neurobiologiei teoretice.
De-a lungul timpului au fost f ¼acute numeroase încerc ¼ari de a introduce m ¼asuri alternative
ale informa¸ tiei. Un exemplu în acest sens este datorat lui Schroeder [ ?], care, în anul 2004, a
propus o m ¼asur¼a ce poate
extins ¼a cu usurin¸ t ¼a la reparti¸ tii continue ¸ si care se deosebe¸ ste de
entropia diferen¸ tial ¼a întrucât este întotdeauna pozitiv ¼a ¸ si invariabil ¼a în raport cu transform ¼ari
liniare ale coordonatelor.
14
În literatura recent ¼a au fost propuse generaliz ¼ari sau modic ¼ari adecvate ale entropiei clasice,
precum entropia cumulativ ¼a rezidual ¼a (CRE) ¸ si cross-entropia cumulativ ¼a rezidual ¼a (cross-
CRE), de
nite de M. Rao, Y. Chen, B.C. Vemuri, F. Wang, [ ?], în anul 2003, putând
aplicate
în domeniul alinierii imaginilor ¸ si al determin ¼arii similitudinilor dintre imagini. Concret, aceste
tipuri de aplica¸ tii au fost expuse de M. Rao, Y. Chen, B.C. Vemuri, F. Wang [ ?], [?], în anul
2003 ¸ si de F. Wang, B.C. Vemuri [ ?], în anul 2007. De asemenea, au fost studiate propriet ¼a¸ ti
ale entropiei cumulative reziduale condi¸ tionate ¸ si a fost de
nit ¼a entropia cumulativ ¼a rezidual ¼a
empiric ¼a.
Cu scopul de a identi
ca efectul de îmb ¼atrânire asupra informa¸ tiilor privind durata de via¸ t ¼a
rezidual ¼a a unui sistem, Asadi ¸ si Zohrevand [ ?] au propus în anul 2007 o versiune dinamic ¼a a
entropiei cumulative reziduale ¸ si au demonstrat anumite propriet ¼a¸ ti ale m ¼asurii nou introduse,
inclusiv cea de monotonie. Versiuni generalizate ale entropiei cumultive reziduale au fost intro-
duse de c ¼atre Zografos ¸ si Nadarajah [ ?] în anul 2005, respectiv de N. Drissi, T. Chonavel, J.M.
Boucher, [ ?] în anul 2008.
A. di Crescenzo ¸ si M. Longobardi [ ?] au introdus în anul 2009 un concept dual al entropiei
cumulative reziduale, numit entropie cumulativ ¼a (CE), ulterior dovedindu-se extrem de util
pentru a determina timpul de inactivitate al unui sistem. Acesta din urm ¼a este un concept
destul de recent întâlnit în
abilitate, semni
când timpul scurs între e¸ secul unui sistem ¸ si
momentul în care se descoper ¼a c¼a a e¸ suat. Întrucât entropia cumulativ ¼a rezidual ¼a se refer ¼a la
incertitudinea viitoarei durate de via¸ t ¼a a unui sistem, Di Crescenzo ¸ si Longobardi au considerat
c¼a este necesar ¼a introducerea unui concept potrivit pentru m ¼asurarea incertitudinii care se
refer¼a la trecut, numindu-l entropie cumulativ ¼a. Putem remarca o diferen¸ t ¼a semni
cativ ¼a a
entropiei cumulative fa¸ t ¼a de entropia diferen¸ tial ¼a, în sensul c ¼a este întotdeauna ne-negativ ¼a,
fapt datorat argumentului logaritmului ce apare în de
ni¸ tia CE, care este o probabilitate, lucru
care nu are loc în cazul entropiei Shannon.
O alt ¼a contribu¸ tie important ¼a a lui A. di Crescenzo ¸ si M. Longobardi [ ?] este dat ¼a de intro-
ducerea unor propriet ¼a¸ ti de baz ¼a ale entropiei cumulative, precum efectul asupra transform ¼arilor
liniare ¸ si o versiune doi-dimensional ¼a a acesteia. În plus, au identi
cat conexiuni ale CE cu
no¸ tiuni de teoria
abilit ¼a¸ tii. De asemenea, au introdus o versiune normalizat ¼a a CE.
A
rma¸ tia c ¼a incertitudinea nu se refer ¼a neap ¼arat la viitor , întâlnit ¼a în lucrarea Entropy-
15
based measure of uncertainty in past lifetime distributions elaborat ¼a de Di Crescenzo ¸ si Longo-
bardi [ ?] a reprezentat punctul de plecare pentru introducerea unui nou concept, cel de entropie
cumulativ ¼a dinamic ¼a, ¸ sapte ani mai tarziu.
În analogie cu entropia cumulativ ¼a rezidual ¼a dinamic ¼a propus ¼a de Asadi ¸ si Zohrevand [ ?], A.
di Crescenzo si M. Longobardi introduc entropia cumulativ ¼a dinamic ¼a, ce descrie incertitudinea
legat ¼a de trecut. Totodat ¼a au prezentat propriet ¼a¸ ti ale entropiei cumulative dinamice, în analo-
gie cu propriet ¼a¸ tile entropiei cumulative reziduale dinamice. În plus, au abordat problema
estim ¼arii entropiei cumulative prin intermediul entropiei cumulative empirice.
F. Misagh, Y. Panahi, G.H. Yari, R. Shahi, [ ?] au propus versiuni ponderate ale entropiei
cumulative reziduale ¸ si ale entropiei cumulative ¸ si au studiat diferite propriet ¼a¸ ti ale acestora,
precum leg ¼aturile lor cu CRE ¸ si CE, dar ¸ si durata medie de via¸ t ¼a rezidual ¼a ponderat ¼a. În plus,
au ob¸ tinut estimatori pentru m ¼asurile propuse prin intermediul statisticilor de ordine. Aceste
noi m ¼asuri ale informa¸ tiei au atras aten¸ tia speciali¸ stilor din domeniile
nan¸ telor, neurobiologiei,
abilit ¼a¸ tii, industriei. F. Misagh [ ?] a prezentat versiuni ale entropiei cumulative reziduale
ponderate ¸ si ale entropiei cumulative ponderate, pentru dou ¼a variabile aleatoare independente,
ce au propriet ¼a¸ ti similare entropiei Shannon. Pentru a estima noile m ¼asuri, Misagh a introdus
versiuni empirice ale acestora, utilizând media, dispersia ¸ si statisticile de ordine ale e¸ santionului.
I. Klein, B. Mangold, [ ?] introduc un nou tip de entropie care generalizeaz ¼a atât entropia
diferen¸ tial ¼a, cât ¸ si entropia cumulativ ¼a (rezidual ¼a), de
nit ¼a simultan pentru func¸ tia de reparti¸ tie
cumulativ ¼a ¸ si pentru func¸ tia de supravie¸ tuire. În plus, a¸ sa cum J. Burbea, C.R. Rao, [ ?] ¸ si F.
Liese, I. Vajda, [ ?] au considerat o func¸ tie generatoare de entropie în contextul divergen¸ tei,
tot a¸ sa I. Klein ¸ si B. Mangold recurg la acela¸ si procedeu, pentru ca împreun ¼a cu propriet ¼a¸ tile
entropiei cumulative, s ¼a dea na¸ stere conceptului de entropie cumulativ ¼a pereche (CRE ):A
fost utilizat în multe domenii importante, dintre care preciz ¼am: teoria mul¸ timilor fuzzy, unde
entropiile cumulative pereche au fost de
nite pentru func¸ tii membru, teoria
abilit ¼a¸ tii
¸ si teoria incertitudinii, unde anumite variante speciale ale CRE au fost considerate m ¼asuri
ale informa¸ tiei. Mai mult, noul tip de entropie a facilitat introducerea a numeroase concepte.
Astfel, corela¸ tia Gini a fost extins ¼a la no¸ tiunea de corela¸ tie, regresia Gini a fost extins ¼a
la no¸ tiunea de regresie. CRE a permis dezvoltarea testelor de rang liniar pentru scal ¼a ¸ si
introducerea unora noi. Propriet ¼a¸ tile date pentru acest tip de entropie eviden¸ tiaz ¼a posibilitatea
16
interpret ¼arii sale mai degrab ¼a ca m ¼asur¼a a dispersiei decât ca m ¼asur¼a a informatiei.
A existat o literatur ¼a substan¸ tial ¼a privind estimarea ¸ si deducerea m ¼asurilor relative de
entropie ale dependentei comune ca m ¼asuri de corelare în serie. Aceste m ¼asuri speciale de
dependen¸ t ¼a au fost propuse de Joe [ ?] ¸ si extinse de Granger ¸ si Lin [ ?]. M ¼asurarea relativ ¼a a
dependen¸ tei bazat ¼a pe entropie a fost foarte interesat ¼a în econometrie, reprezentând un con-
cept foarte general pentru m ¼asurarea dependen¸ tei comune. În [ ?,?] este prezentat ¼a o analiz ¼a
concis ¼a a contribu¸ tiilor importante din acest domeniu. Cercet ¼atorii din domeniul econometriei
au devenit recent interesa¸ ti de calculul densit ¼a¸ tilor entropiei maxime (de exemplu, Golan [ ?],
Usta ¸ si Kantar [ ?]).
Miller ¸ si Liu [ ?] propun o metod ¼a de recuperare a unei func¸ tii de distribu¸ tie comune prin
aplicarea distan¸ tei KLCE în timp ce se impune un grad de dependen¸ t ¼a necesar momentelor
comune. Un exemplu este distribu¸ tia normal ¼a care este complet caracterizat ¼a de primul ¸ si al
doilea moment.
A existat un mare interes în sfera cuplei, în special în economia
nanciar ¼a, întrucât are
poten¸ tialul de a modela ¸ si explica dependen¸ ta asimetric ¼a între variabilele aleatoare separat de
distribu¸ tiile lor marginale. De exemplu, Patton [ ?] angajeaz ¼a diverse familii de cupla pen-
tru a investiga inter-dependenta dintre asimetriile univariate, dependenta asimetric ¼a dintre
întoarcerea activelor ¸ si portofoliile optime ale activelor. Rodriguez [ ?] modeleaz ¼a contagiunea
nanciar ¼a utilizând cupla.
Ning, Xu ¸ si Wirjanto [ ?] investigheaz ¼a modelul asimetric în gruparea volatilit ¼a¸ tii prin uti-
lizarea unei copula semi-parametrice. Indica¸ tii detaliate privind diversele aspecte econometrice
sau aplica¸ tii ale func¸ tiilor cupla în economie ¸ si
nan¸ te pot
g ¼asite, de exemplu, în studiile
realizate de Patton [ ?], Fan ¸ si Patton [ ?].
Un tratament cuprinz ¼ator al teoriei cuplei este prezentat în monogra
a lui Nelsen [ ?].
În scopul dimension ¼arii stadiului actual al cunoa¸ sterii în domeniul supus studiului, am real-
izat o analiz ¼a exploratorie asupra literaturii de specialitate incidente domeniului a at în aten¸ tia
noastr ¼a atât din domeniul entropiei cumulative ponderate cât ¸ si din zona model ¼arii entropice.
De asemenea, ne-am îndreptat aten¸ tia asupra tezelor de doctorat orientate pe obiective similare
cu obiectivele prezentei cercet ¼ari, asupra articolelor publicate în reviste de specialitate, studii
de caz, etc.
17
Demersul prezentei cercet ¼ari ¸ stiinti
ce l-am conturat în a¸ sa fel încât rezultatele
nale s ¼a
coincid ¼a cu cele proiectate.
1.3 Problematica cercet ¼arii
Problematica cercet ¼arii poate
de
nit ¼a ca
ind o construc¸ tie intelectual ¼a formalizat ¼a având ca
baz¼a interoga¸ tia, pozi¸ tionarea epistemologic ¼a, respectiv ipotezele de cercetare. Aceasta reprez-
int¼a de fapt o punere în perspectiv ¼a a ansamblului leg ¼aturilor ce exist ¼a între fapte, teorii ¸ si
componentele problemei date, plasate într-un anumit context[ ?], prin aceast ¼a a
rma¸ tie dorind
pentru început introducerea în subiectul cercet ¼arii proprii.
Recenziile realizate asupra stadiului actual al cunoa¸ sterii din domeniul entropiei ¸ si al mod-
el¼arii entropice pe plan na¸ tional ¸ si interna¸ tional constituie o premis ¼a obligatorie determinant ¼a
în posibilitatea ob¸ tinerii de valoare ad ¼augat ¼a la cunoa¸ sterea ¸ stiin¸ ti
c ¼a actual ¼a. Astfel, prob-
lematica dezvoltat ¼a în lucrarea de fa¸ t ¼a presupune abordarea câtorva aspecte relevante pe care
le supunem studiului ¸ si analizei prin formularea unor obiective, dup ¼a cum urmeaz ¼a:
1. Introducerea unui nou tip de entropie cumulativ ¼a, pe care am numit-o entropia cu-
mulativ ¼a ponderat ¼a pereche interval (CPIE), ce reprezint ¼a o generalizare a entropiei cumulative
ponderate reziduale interval (ICRE) ¸ si a entropiei cumulative ponderate interval (ICE) ale unei
variabile aleatoare.
2. Eviden¸ tierea unor propriet ¼a¸ ti caracteristice ale entropiei nou introduse, insistând
asupra determin ¼arii unor margini superioare sau inferioare ale acesteia.
3. Extinderea conceptelor de entropie cumulativ ¼a rezidual ¼a interval ¸ si entropie cumula-
tiv¼a interval, prin substituirea logaritmului clasic din de
ni¸ tiile acestora cu logaritmul extins
Tsallis ¸ si atasarea unor func¸ tii pondere, fapte care au condus la de
nirea entropiei Tsallis cumu-
lative reziduale ponderate interval, respectiv a entropiei Tsallis cumulative ponderate interval.
4. De
nirea conceptelor de entropie cumulativ ¼a ponderat ¼a empiric ¼a ¸ si entropie cumula-
tiv¼a ponderat ¼a rezidual ¼a empiric ¼a, precum ¸ si a unor reprezent ¼ari echivalente ale acestora.
5. Introducerea conceptelor de entropie cumulativ ¼a ponderat ¼a empiric ¼a Tsallis ¸ si en-
tropie cumulativ ¼a ponderat ¼a rezidual ¼a empiric ¼a Tsallis, precum ¸ si a unor reprezent ¼ari echiva-
lente ale acestora.
18
6. Prezentarea unor forme generalizate ale entropiei cumulative reziduale ¸ si a unor pro-
priet¼a¸ ti ale acestora.
7. Generalizarea conceptului de informa¸ tie Kullback-Leibler cumulativ ¼a, prin introduc-
erea unor versiuni ponderate ale acesteia.
8. Construirea unui model general de entropie cumulativ ¼a ponderat ¼a pereche , stabilirea
unor reprezent ¼ari alternative ¸ si a unor propriet ¼a¸ ti fundamentale ale acesteia.
9. Introducerea a dou ¼a noi modele entropice generale de dependen¸ t ¼a, extensii ale mod-
elului prezentat de B. Chu ¸ si S. Satchell, [ ?]: un model de dependen¸ t ¼a ponderat ¸ si un model de
dependen¸ t ¼a care are în vedere entropia de tip Tsallis.
1.4 Metodologia cercet ¼arii ¸ stiin¸ ti
ce
Elaborarea unei lucr ¼ari de cercetare nu se poate realiza la pura întâmplare,
ind absolut necesar
ca, indiferent de domeniul supus cercet ¼atii, cercet ¼atorul s ¼a identi
ce acele metode ¸ si tehnici de
cercetare care s ¼a se adapteze proiectului propus. Chiar dac ¼a aceste metode sunt bine stabilite
de la începutul cercet ¼arii, este posibil ca autorul s ¼a se confrunte cu anumite in uen¸ te ale unor
factori externi care s ¼a îl determine pe acesta s ¼a renun¸ te la anumite metode ¸ si s ¼a adopte altele
noi. Esen¸ tial este ca strategia de cercetare s ¼a
e una organizat ¼a ¸ si care s ¼a urmeze o anumit ¼a
metodologie care s ¼a asigure maximizarea ratei de succes în ceea ce prive¸ ste utilitatea rezultatelor
ob¸ tinute prin proiectul de cercetare.
Cercetarea este de
nit ¼a ca
ind procesul de c ¼autare printr-o abordare metodic ¼a în scopul
contribuirii la evolu¸ tia teoretic ¼a, precum ¸ si pentru asigurarea de noi forme ale metodelor de
în¸ telegere ale fenomenelor care se manifest ¼a în domeniul supus cercet ¼arii.
În privin¸ ta metodelor de cercetare, am utilizat metoda de analiz ¼a a unui num ¼ar considerabil
de lucr ¼ari de specialitate prezentate la bibliogra
e ¸ si citate în prezentul text, întrucât analiza
surselor bibliogra
ce utilizate, a studiilor comparative precum ¸ si interpret ¼arile speciali¸ stilor
ne-au permis o analiz ¼a de con¸ tinut a problematicii abordate.
De asemenea, metoda generaliz ¼arii unor rezultate existente în literatur ¼a ne-a permis con-
struirea unor noi m ¼asuri entropice si analiza unor propriet ¼a¸ ti ale acestora, precum ¸ si a unor
modele de dependen¸ t ¼a.
19
1.5 Structura tezei
Cercetarea ¸ stiin¸ ti
c ¼a se desf ¼a¸ soar ¼a pe parcursul a ¸ sase capitole ¸ si debuteaz ¼a cu Introducere ,
unde am eviden¸ tiat motiva¸ tia ¸ si importanta cercet ¼arii, stadiul actual al cunoa¸ sterii domeniu-
lui studiat, problematica ¸ si obiectivele cercet ¼arii, metodologia cercet ¼arii ¸ stiin¸ ti
ce, precum ¸ si
structura tezei de doctorat.
În al doilea capitol, Entropia cumulativ ¼a ponderat ¼a pereche interval , activitatea de cercetare
a fost centrat ¼a pe introducerea unui nou concept, ¸ si anume entropia cumulativ ¼a ponderat ¼a
pereche interval, ce reprezint ¼a o generalizare a entropiei cumulative ponderate reziduale inter-
val, precum ¸ si a entropiei cumulative ponderate interval ale unei variabile aleatoare, concepte
descrise de S.Y. Sekeh, G.R.M. Borzadran, A.H.R. Roknabadi, [ ?]. De asemenea, am de
nit en-
tropia Tsalis cumulativ ¼a rezidual ¼a ponderat ¼a interval ¸ si entropia Tsallis cumulativ ¼a ponderat ¼a
interval, concepte cere generalizeaz ¼a rezultatele introduse de S.Y. Sekeh, G.R.M. Borzadran,
A.H.R. Roknabadi [ ?] amintite mai sus. Pentru construirea noilor modele am utilizat logar-
itmul extins Tsallis [ ?], în locul logaritmului clasic. Totodat ¼a, ne-am îndreptat aten¸ tia c ¼atre
ilustrarea unor importante propriet ¼a¸ ti ale noilor m ¼asuri, precum ob¸ tinerea unor reprezent ¼ari
echivalente sau determinarea unor margini superioare ¸ si inferioare ale acestora.
Acest capitol este original ¸ si se bazeaz ¼a pe lucr ¼arile [ ?], [?], [?], [?], [?]. Rezultatele originale
fac parte din lucr ¼arile [ ?], [?], [?].
În capitolul al treilea, Estim ¼ari ale CRE wsi CE w, am introdus entropia cumulativ ¼a pon-
derat ¼a empiric ¼a ¸ si entropia cumulativ ¼a ponderat ¼a rezidual ¼a empiric ¼a ale unui e¸ santion aleator,
acestea reprezentând noi versiuni ale entropiei cumulative reziduale ponderate, respectiv ale en-
tropiei cumulative ponderate, m ¼asuri construite de F. Misagh, Y. Panahi, G.H. Yari, R. Shahi
[?] ¸ si am oferit reprezent ¼ari alternative ale acestora. De asemenea, au fost de
nite entropia
cumulativ ¼a ponderat ¼a empiric ¼a Tsallis ¸ si entropia cumulativ ¼a ponderat ¼a rezidual ¼a empiric ¼a
Tsallis ale unui e¸ santion aleator, precum ¸ si forme echivalente ale acestora. Procedeul prin care
am obtinut aceste din urm ¼a tipuri de entropie a fost cel al substituirii logaritmului clasic cu log-
aritmul extins Tsallis ¸ si al utiliz ¼arii propriet ¼atilor sale. Tot aici am prezentat o form ¼a ponderat ¼a
a entropiei cumulative reziduale ¸ si am studiat importante propriet ¼a¸ ti ale sale. Am introdus noi
versiuni ale informa¸ tiei Kullback-Leibler cumulative empirice ¸ si am dat caracteriz ¼ari ale aces-
tora. În
nalul capitolului se d ¼a o caracterizare a entropiei cumulative reziduale ¸ si o descriere
20
a entropiei cumulative reziduale Weibull, realizând în acest sens un test de baz ¼a pentru aceast ¼a
repartitie.
Acest capitol este original ¸ si se bazeaz ¼a pe lucr ¼arile [ ?], [?], [?]. Rezultatele originale fac
parte din lucr ¼arile [ ?], [?].
În capitolul al patrulea, Un model general de entropie cumulativ ¼a ponderat ¼a pereche , în
analogie cu - entropia cumulativ ¼a introdus ¼a de I. Klein et. al [ ?], am introdus entropia
('1; '2)cumulativ ¼a ponderat ¼a pereche. Am caracterizat entropia ('1; '2) cumulativ ¼a ponder-
at¼a pereche pentru date grupate ¸ si am obtinut noi forme ale sale. Am stabilit unele reprezent ¼ari
alternative ale acesteia ¸ si am utilizat inegalitatea Cauchy-Schwarz pentru a ob¸ tine o margine
superioar ¼a a sa. Am stabilit condi¸ tii necesare pentru ca functia de reparti¸ tie cumulativ ¼a a unei
variabile aleatoare s ¼a
e reparti¸ tia maxim ¼a a entropiei ('1; '2) cumulativ ¼a ponderat ¼a pereche,
când media ¸ si dispersia sunt date. Tot în acest capitol am prezentat propriet ¼a¸ ti de baz ¼a ale
noii m ¼asuri, am demonstrat c ¼a propriet ¼atile reprezentative ale unei m ¼asuri de scal ¼a, în anumite
ipoteze, sunt p ¼astrate de c ¼atre entropia ('1; '2)cumulativ ¼a ponderat ¼a pereche ¸ si am construit
un estimator nedeplasat pentru entropia ('1; '2)cumulativ ¼a ponderat ¼a pereche.
Acest capitol este original ¸ si se bazeaz ¼a pe lucr ¼arile [ ?], [?], [?]. Rezultatele originale fac
parte din lucrarea [ ?].
În capitolul al cincilea, Modele entropice generale de dependent ¼a, activitatea de cercetare
s-a îndreptat pe construirea unui model ponderat de dependen¸ t ¼a, mai general decât modelul
prezentat în [ ?]. De asemenea, am dat o solu¸ tie aproximativ ¼a a problemei introduse. Conceptul
matematic cheie al acestei probleme este func¸ tia cupla , cunoscut ¼a ca func¸ tie de dependen¸ t ¼a,
instrument util pentru modelarea dependen¸ tei stocastice.
Sectiunea 5.1 a acestui capitol con¸ tine notiuni preliminare, necesare pentru ob¸ tinerea noilor
rezultate privind modelarea entropic ¼a. În sec¸ tiunea 5.2 sunt prezentate rezultate originale ¸ si se
bazeaz ¼a pe lucrarea [ ?]. Rezultatele noi fac parte din lucr ¼arile [ ?], [?].
Al ¸ saselea capitol, Concluzii , reprezint ¼a partea
nal ¼a a tezei în care sunt prezentate rezul-
tatele originale ob¸ tinute în cadrul acestei cercet ¼ari, direc¸ tii viitoare de cercetare, precum ¸ si lista
lucr¼arilor publicate sau a ate în curs de publicare.
În
nal apare bibliogra
a consultat ¼a în timpul cercet ¼arii, care a avut o contribu¸ tie esential ¼a
în realizarea lucr ¼arii de fa¸ t ¼a.
21
Chapter 2
Entropia cumulativ ¼a ponderat ¼a
pereche interval
2.1 Preliminarii
În contextul teoriei comunica¸ tiilor, în anul 1948, C.E. Shannon a introdus conceptul de entropie
diferen¸ tial ¼a, cu sensul de m ¼asur¼a a informa¸ tiei existent ¼a într-un experiment probabilistic sau
variabil ¼a aleatoare. Teoria nou introdus ¼a s-a bucurat de un adev ¼arat succes, astfel c ¼a a fost rapid
extins ¼a de cercet ¼atori din domenii importante ale ¸ stiintei, precum:
zica, economia, biologia,
psihologia, sociologia.
Vom mentiona numele unor matematicieni celebri care au obtinut rezultate remarcabile
cu privire la conceptul de entropie: S. Kullback [ ?], A.N. Kolmogorov [ ?], J. Von Neumann
[?], D.K. Faddeev [ ?], E.T. Jaynes [ ?]. ¸ Scoala romaneasc ¼a de matematic ¼a a avut contribu¸ tii
importante în acest domeniu, marcate de numele cercet ¼atorilor: O. Onicescu [ ?], S. Guiasu [ ?],
M. Iosifescu si R. Teodorescu [ ?].
Putem da entropiei dou ¼a interpret ¼ari, în func¸ tie de pozitia noastr ¼a fat¼a de momentul efec-
tu¼arii experimentului. Dac ¼a ne situ ¼am într-un moment înaintea efectu ¼arii experimentului,
atunci entropia m ¼asoar ¼a incertitudinea con¸ tinut ¼a de experien¸ ta sau variabila aleatoare. Îns ¼a,
dac¼a ne situ ¼am într-un moment dup ¼a ce experimentul a fost efectuat, atunci entropia m ¼asoar ¼a
informa¸ tiile furnizate prin intermediul experimentului.
Rao, Chen, Vemuri, Wang au introdus în [ ?] o m ¼asur¼a alternativ ¼a de incertitudine, numit ¼a
22
entropie cumulativ ¼a rezidual ¼a (CRE) . Asadi ¸ si Zohrevand [ ?] au studiat importan¸ ta entropiei
cumulative reziduale în durata de via¸ t ¼a rezidual ¼a. Di Crescenzo ¸ si Longobardi [ ?] au introdus
entropia cumulativ ¼a (CE). Cele dou ¼a tipuri de entropii despre care am amintit în acest paragraf
au propriet ¼a¸ ti similare.
În acest capitol vom introduce conceptul de entropie cumulativ ¼a ponderat ¼a pereche interval
(CPIE), care generalizeaz ¼a entropia cumulativ ¼a ponderat ¼a rezidual ¼a interval (ICRE) ¸ si entropia
cumulativ ¼a ponderat ¼a interval (ICE) a unei variabile aleatoare, concepte descrise de Yasei Sekeh
în [?]. Aceste m ¼asuri se bazeaz ¼a pe conceptele de entropie cumulativ ¼a ponderat ¼a rezidual ¼a
(CRE) ¸ si entropia cumulativ ¼a ponderat ¼a (CE) ale unei variabile aleatoare, descrise în numeroase
lucr¼ari de specialitate, printre care: [ ?], [?], [?], [?].
Utilizând reprezent ¼ari echivalente ale CPIE, vom determina mai multe margini superioare
¸ si inferioare ale acesteia.
Prezent ¼am, de asemenea, dou ¼a noi m ¼asuri ale informa¸ tiei, entropia Tsallis cumulativ ¼a pon-
derat ¼a interval ¸ si entropia Tsallis cumulativ ¼a rezidual ¼a ponderat ¼a interval, împreun ¼a cu nu-
meroase propriet ¼a¸ ti ale lor.
Conceptele nou introduse în acest capitol sunt expuse în De
ni¸ tiile ??,??¸ si??. Rezultatele
originale ob¸ tinute în acest capitol sunt incluse în Lemele ??,??,??,??,??¸ si în Teoremele ??,
??,??,??,??,??,??,??,??. Contribu¸ tia original ¼a din acest capitol generalizeaz ¼a sau extinde
rezultate recent ob¸ tinute în
23
Copyright Notice
© Licențiada.org respectă drepturile de proprietate intelectuală și așteaptă ca toți utilizatorii să facă același lucru. Dacă consideri că un conținut de pe site încalcă drepturile tale de autor, te rugăm să trimiți o notificare DMCA.
Acest articol: Director, Sound and Furry Laboratory [618373] (ID: 618373)
Dacă considerați că acest conținut vă încalcă drepturile de autor, vă rugăm să depuneți o cerere pe pagina noastră Copyright Takedown.
