Artificial Intelligence and Freedom of Conscience [613052]

Artificial Intelligence and Freedom of Conscience

Eseul
analizează
conceptul
de
con
ș
tiin
ț
ă
ș
i
valen
ț
ele
acestuia
în
domeniul
Inteligen
ț
ei
Artificiale.
Astfel,

prima
parte
va
cuprinde
analiza
no
ț
iunilor
de
con
ș
tiin
ț
ă
ș
i
libertate
de
con
ș
tiin
ț
ă(
​
I.
​
),
urmând
ca
în
a

doua
parte
să
analizăm
în
ce
măsură
poate
progresul
în
materia
Inteligen
ț
ei
Artificiale
schimba
aceste

concepte(
​
II.
​
).

I. Con
ș
tiin
ț
a
ș
i Libertatea d e con
ș
tiin
ț
ă.

Facem
încă
de
la
început
precizarea
că
între
no
ț
iunile
de
“con
ș
tiin
ț
ă”
(§1)
ș
i
“libertate
de
con
ș
tiin
ț
ă”

(§2)
din
materia
drepturilor
omului
există
puncte
comune,
dar
ș
i
diferen
ț
e.
În
limba
română,
termenul

“con
ș
tiin
ț
ă”
este
corespondentul
a
două
no
ț
iuni
distincte
din
alte
limbi,
cu
precădere
cele
germanice,

mai
ales
engleză.
Prima
defini
ț
ie
oferită
de
DEX
este
“
​
Sentiment,
intui
ț
ie
pe
care
fiin
ț
a
umană
o
are

despre
p
​
ropria
existen
ț
ă;
cunoa
ș
tere
intuitivă
sau
reflexivă
pe
care
o
are
fiecare
despre
propria
existen
ț
ă

ș
i
despre
​
lucrurile
din
jurul
său.”
În
engleză,
pentru
acest
sens
există
termenul
“consciousness”.
Însă,

sintagma
“libertate
de
con
ș
tiin
ț
ă”
este
dreptul
recunoscut
cetă
ț
enilor
de
a
avea
orice
concep
ț
ie

religioasă,
​
filosofică
​
1
​
.
Pentru
acest
sens,
limba
engleză
folose
ș
te
“conscience”,
care
se
apropie
de

orginea
latină
a
​
cuvantului
​
“
​
c
​
onscientia”
​
Pe
filieră
străină
a
apărut
neologismul
“con
ș
tien
ț
ă”
pentru

primul
sens
arătat,
​
consacrat
doar
de
către
Marele
Dic
ț
ionar
de
Neologisme
(MDN)
​
2
​
,
care
încearcă
să

facă diferen
ț
a între
​

​
cele dou ă concepte
ș
i în limba română.

§1. Con
ș
tiin
ț
a (con
ș
tien
ț
a)
​
3

Con
ș
tiin
ț
a
este
singurul
lucru
care
ne
face
să
realizăm
că
mai
există
ș
i
alte
lucruri.
În
jurul
anului
500
î.

Hr.,
Alcmeon
din
Crotone
a
fost
primul
adept
al
teoriei
că
intelectul
uman
în
forma
con
ș
tiin
ț
ei
este

localizat
în
creier.
Practic,
acesta
a
fost
primul
moment
când
un
creier
uman
a
fost
con
ș
tient
de
sine

însu
ș
i.
De
atunci
ș
i
până
în
prezent,
fiecare
dintre
noi
arată
spre
cutia
craniană
dacă
este
întrebat
unde
îi

este
mintea
sau
con
ș
tiin
ț
a.
Corpul
uman
este
alcătuit
din
miliarde
de
celule.
Dar
din
acela
ș
i
tip
de
celule

sunt
alcătuite
ș
i
toate
celela lte
lucruri
din
univers,
inclusiv
cele
care
au
o
configura
ț
ie
foarte
apropiată

de
cea
umană,
cum
ar
fi
animalele,
“automata”
a
ș
a
cum
erau
numite
de
Descartes
​
4
​
.
Paradoxal,
doar

această
configura
ț
ie
din
miliarde
alte
posibile
are
con
ș
tiin
ț
ă.
Această
concep
ț
ie
dă
na
ș
tere
la
o

multitudine
de
alte
întrebări:
În
care
dintre
celulele
care
compun
corpul
uman
se
află
con
ș
tiin
ț
a?
Poate

fi
localizată?
Este,
a
ș
a
cum
arăta
tot
Descartes,
pe
un
„plan
cartezian”
în
glanda
pineală
​
5
​
?
Poate
cel
mai

important
respondent
în
sens
negativ
este
filozoful
American
Daniel
Dennet,
care
arată
că
nu
există
un

punct
care
captează
întreaga
recep
ț
ie
senzorială
a
corpului
uman,
ci
un
sistem
de
prelucrare
bazat
pe

diferitele zone

1
​
A se vedea https://dexonline.ro/definitie/con%C8%99tiin%C8%9B%C4%83.

2
​
A se vedea https://dexonline.ro/intrare/con%C8%99tien%C8%9B%C4%83/83789.

3
​
În limba engleză “consciousness”.

4
​
În
​
Scrisoare către Morus
​
din 5 februarie 1649, René Descartes declară calm că urletele unui animal din timpul

unei vivisec
ț
ii nu au mai multă semnifica
ț
ie decât „ticăitul unui pendul”.

5
​
A se vedea
​
Lokhorst, Gert-Jan, "Descartes and the Pineal Gland",
​
The Stanford Encyclopedia of

Philosophy
​
(Fall 2020 Edition), Edward N. Zalta (ed.), disponibil la

https://plato.stanford.edu/archives/fall2020/entries/pineal-gland/.

ale
corpului
uman
care
lucrează
simultan
editând
ș
i
reeditând
informa
ț
ii
​
6
​
.
Dennet
face
o
paralelă
între

con
ș
tiin
ț
ă
ș
i
ecranul
unui
smartphone
care
prezintă
rezultatul
unor
procese
computa
ț
ionale
ce
se

efectuează
în
spatele
acestuia.
De
ș
i
nu
putem
identifica
unde
se
află
o
anumită
aplica
ț
ie
între

componentele
hardware,
interac
ț
ionăm
cu
ea
pe
ecran
ș
i
fără
ecran
ea
nu
ar
exista
A
ș
a
cum
vom
vedea,

această
teză
asupra
con
ș
tiin
ț
ei
este
un
punct
de
plecare
pentru
a
accepta
că
un
sistem
cu
Inteligen
ț
ă

Artificială
poate
dobândi
con
ș
tiin
ț
ă.
Con
ș
tiin
ț
a
a
fost
ș
i
încă
este
extrem
de
dezbătută
în
filozofie.

Punctul
de
plecare
îl
constituie
Dualismul,
atribuit
tot
lui
Descartes,
care
consideră
creierul
ș
i
con
ș
tiin
ț
a

sunt
două
lucruri
diferite,
în
ideea
că
nu
creierul
creează
con
ș
tiin
ț
ă,
ci
el
este
un
punct
de
legătură
între

corpul
uman
ca
realitate
fizică
ș
i
o
altă
entitate
non-fizică,
supranaturală
​
7
​
.
Alte
teorii
propun
fie

inexisten
ț
a
con
ș
tiin
ț
ei
sau
a
unora
din
trăsăturile
acesteia,
fie
identitatea
dintre
acest
concept
ș
i

procesele
neurologice,
fie
definesc
con
ș
tiin
ț
a
ca
fiind
ansamblul
de
func
ț
ii
ale
creierului
uman,
fie

simplu:
gânduri
despre
alte
gânduri
​
8
​
.
Cu
toate
astea,
niciuna
dintre
aceste
teorii
nu
pare
să
ofere
o
cale

de
a
în
ț
elege
con
ș
tiin
ț
a
dincolo
de
percep
ț
ia
subiectivă
a
fiecăruia.
Nu
un
anumit
proces
neuronal
este

senza
ț
ia
de
fericire,
ci
percep
ț
ia
subiectivă
a
fiecăruia
că
este
fericit.
Faptul
că
încă
nu
în
ț
elegem

această tranzi
ț
ie a fost denu mit “Problema grea a con
ș
tiin
ț
ei” de către David Chalmers, în 1995
​
9
​
.

§2. Libertatea de con
ș
tiin
ț
ă
​
10

A
ș
a cum am anticipat, no
ț
iunea de con
ș
tiin
ț
ă din sintagma “libertatea de con
ș
tiin
ț
ă” nu se suprapune

perfect peste defini
ț
iile date anterior, ci, ar echivala cu gândirea sau raportarea la un sistem de valori. În

franceză(
​
“conscience”
​
)
ș
i latină(
​
”
​
conscientia”
​
)
​
situa
ț
ia este identică, nu există o dihotomie

terminologică
​
11
​
. Se arată în doctrină că
​
libertatea oricărui individ de a reflecta, de a gândi, de a avea

propriile convingeri, de a se cunoa
ș
te pe sine “contribuie la dezvoltarea
ș
i afirmarea plenară a

p
​
ersonalită
ț
ii umane”
​
12
​
.
​
Libertatea con
ș
tiin
ț
ei este un concept care există încă din Antichitate, la stoicii

greci fiind “
​
suneidenai”
​
13
​
,
​

​
fiind dezvoltat
ș
i în Biblie, cu precădere în scrierile lui Pavel în Tars: ,,De ce

trebuie să fie judecată libertatea mea după con
ș
tiin
ț
a altuia?”
​
14
​
, dar
ș
i în Coran sub conceptul de

”taqwa”
​
15
​
. A luat amploare odată cu decăderea autorită
ț
ii religiei sau structurilor politice
​
16
​
, continuând

6
​
A se vedea Buda Irina-Gabriela,
​
Demistificarea conștiinței: critica lui Daniel Dennett împotriva

materialismului cartezian
​
, Revista de Filosofie Analitică Volumul III, 1o , Ianuarie-Iunie 2009 pp. 85-92.
​
7
​
A

se vedea
​
Howard Robinson, "Dualism",
​
The Stanford Encyclopedia of Philosophy
​
(Fall 2020 Edition),

Edward N. Zalta (ed.), disponibil la https://plato.stanford.edu/archives/fall2020/entries/dualism/.
​
8
​
A se vedea

pentru (doar) 12 defini
ț
ii ale con
ș
tiin
ț
ei: https://informationisbeautiful.net/visualizations/what-is

consciousness/.

9
​
A se vedea Robert Van Gulick, "Consciousness",
​
The Stanford Encyclopedia of Philosophy
​
(Spring 2018

Edition), Edward N. Zalta (ed.), disponibil la https://plato.stanford.edu/archives/spr2018/entries/consciousness/.

10
​
În limba engleză conscience, freedom of conscience.

11
​
A se vedea A.
​
Giubilini, "Conscience",
​
The Stanford Encyclopedia of Philosophy
​
(Winter 2016 Edition),

Edward N. Zalta (ed.) disponibil la https://plato.stanford.edu/archives/win2016/entries/conscience/.
​
12
​
A se vedea

Ov. Predescu,
​
Conven
ț
ia europeană a drepturilor omului
ș
i dreptul penal român
​
, Ed. Lumina Lex,
​

​
Bucure
ș
ti,

2006, p. 179.

13
​
A se vedea studiul introductiv din edi
ț
ia bilingvă a lucrării
​
Marcus Aurelius,
​
Ta eis heauton
​
(
​
Gânduri către

s
​
ine însuși
​
), Ed. Humanitas, 2013.

14
​
Protoiereul Serghie Ovseannikov,
​
Carte despre libertate. Renun
ț
ând la legalism, să ajungem la iubire,
​
Editura

Egumeni
ț
a, Gala
ț
i, 2019, p. 206
​
apud
​
https://legalup.ro/libertatea-de-constiinta/.

15
​
Azim Nanji. 'Islamic Ethics' în Singer P (ed).
​
A Companion to Ethics
​
. Blackwell, Oxford 1995. p. 108
​
16
​
A se

vedea
​
C.A. Pierce,
​
Conscience in the New Testament: a study of syneidesis in the New Testament , in the
​

​
light

of its sources and with particular reference to St. Paul, with some observations regarding its pastoral

relevance today
​
(Studies in Biblical theology no. 15), London: SCM Press, 1995.

în
secolul
XVII
în
Anglia
gra
ț
ie
crizei
religioase
din
acea
perioadă,
acest
moment
fiind
ș
i
cel
în
care

“consciousness”
​
ș
i
​
”conscie nce”
​
au
început
să
însemne
lucruri
diferite
în
lucrările
filozofice
ale
vremii.

Immanuel
Kant
spune
despre
con
ș
tiin
ț
ă
în
sensul
de
crez
moral
la
care
ne
referim,
că
nu
este
ceva
care

să
fie
dobândit
ci
„fiecare
om,
în
calitate
de
fiin
ț
ă
morală,
o
are
originar
în
sine.”
​
17
​
Î
​
n
primele

documente
​
constitu
ț
ionale,
libertatea
de
con
ș
tiin
ț
ă
a
apărut
sub
forma
libertă
ț
ii
religioase
​
18
​
.
​
În
prezent,

este
consacrată
în
art.
9
din
Conven
ț
ia
Europeană
a
Drepturilor
Omului,
precum
ș
i
de
art.
29
din

Constitu
ț
ia
României
alătu ri
de
libertatea
de
gândire
ș
i
cea
de
religie.
În
jurispruden
ț
a
CEDO,
se

confirmă
protec
ț
ia
aspectul ui
religios
arătându-se
că
“autorită
ț
ile
statului
nu
sunt
libere
să
intervină
în

libertatea
de
con
ș
tiin
ț
ă
a
unei
persoane
solicitând
informa
ț
ii
despre
convingerile
sale
religioase(…)”
​
19
​
.

Relativ
recent,
î
​
n
domeniul
dreptului
european
al
drepturilor
omului
s-a
conturat
un
drept
la
autonomie,

la
libertate
p
​
ersonală.
Acesta
este
un
concept
care
poate
desemna
acea
facultate
a
persoanei
umane
de

a-
ș
i
dirija,
​
conduce
via
ț
a
a
ș
a
cum
dore
ș
te,
cum
în
ț
elege.
El
permite
simultan
individului
„de
a
decide

fără
îngrădire
​
asupra
op
ț
iunilor
de
a
efectua
construc
ț
ia
personalită
ț
ii
sale
ș
i
de
a
le
revendica
în

vederea recunoa
ș
terii
​

​
ș
i protejării lor juridice în cadrul rela
ț
iilor cu semenii.”
​
20

După
o
studiere
a
celor
două
concepte,
observăm
cum
con
ș
tiin
ț
a-con
ș
tien
ț
ă
ne
oferă
percep
ț
ie

senzorială
asupra
mediului
înconjurător,
dar
ș
i
asupra
sinelui.
Aceste
informa
ț
ii
trebuie
interpretate
ca

fiind
bune
sau
rele,
morale
sau
imorale,
fericite
sau
triste.
Aici
intervine
con
ș
tiin
ț
a
în
sensul
crezului

moral,
fiecare
având
libertate
de
con
ș
tiin
ț
ă,
libertatea
de
a
aprecia
aceste
informa
ț
ii
a
ș
a
cum
consideră.

Putem
formula
o
concluzie
pentru
prima
parte
a
studiului
nostru:
Con
ș
tiin
ț
a-crez
moral
derivă
din

con
ș
tiin
ț
a-cunoa
ș
tere
reflexivă,
fără
“con
ș
tien
ț
ă”
nu
există
„con
ș
tiin
ț
ă”
​
21
​
.
Dacă
omul
nu
ar
putea

percepe,
con
ș
tientiza
ce
se
întâmplă
cu
sine
ș
i
în
jurul
său
nu
ar
putea
aprecia
dacă
aceste
lucruri
sunt

sau
nu
în
concordan
ț
ă
cu
valorile
sale
morale.
Defini
ț
ia
con
ș
tiin
ț
ei
fiecăruia
se
bazează
pe
felul
în
care

con
ș
tientizează
că
trebuie
să
supravie
ț
uiască
ca
individ
ș
i
ca
specie.
Această
defini
ț
ie
evoluează

constant:
abolirea
sclaviei,
acordarea
de
drepturi
femeilor
sau
persoanelor
afroamericane
sunt
doar

câteva
exemple
ale
evolu
ț
iei
valorilor
unei
societă
ț
i.
În
cele
ce
urmează,
vom
cerceta
dacă
acest

postulat ar fi valabil
ș
i în caz ul unei entitate cu Inteligen
ț
ă Artificială.

II. Cum intervine Inteligen
ț
a Artificială între con
ș
tiin
ț
ă
ș
i libertatea de con
ș
tiin
ț
ă?

Pentru
a
continua
ra
ț
ioname ntul
demersului
nostru,
vom
analiza
tot
dintr-o
dublă
perspectivă
Inteligen
ț
a

Artificială
ș
i
con
ș
tiin
ț
a
în
sensul
de
cunoa
ș
tere
reflexivă
pentru
care
vom
folosi
termenul
neologic

con
ș
tien
ț
ă
doar
în
această
a
doua
parte,
fiind
mai
facil
de
urmărit(§ 1)
precum
ș
i
rela
ț
ia
între
Inteligen
ț
a

Artificială
con
ș
tiin
ț
ă-crez
moral
ș
i
libertatea
acesteia,
unde
vom
rămâne
la
termenul
con
ș
tiin
ț
ă(§2),
în

speran
ț
a
că
nu
se
creează
sau
men
ț
ine
confuzia
terminologică
cu
care
s-au
confruntat
mul
ț
i
de-a
lungul

vremii.

17
​
A se vedea I. Kant,
​
Metafizica moravurilor
​
, trad., pref., studiu introd., studiu asupra trad., note, bibliogr.

selective, index de concepte german-român, index de concepte român-german, coord.: Rodica Croitoru. –

Bucuresti : Antet XX Press, 2013, p. 195.

18
​
A se vedea https://legalup.ro/libertatea-de-constiinta/.

19
​
Ct.E.D.O, Alexandridis împotriva Greciei, pct. 38; Dimitras
ș
i al
ț
ii împotriva Greciei, pct. 78, a
ș
a cum se arată

în
​
Ghidul privind art. 9 din Conven
ț
ia europeană a drepturilor omului
​
, disponibil pe http://ier.gov.ro/wp

content/uploads/2018/11/Ghid-art.-9-din-CEDO-30.04.2019.pdf.

20
​
A se vedea, din acest punct de vedere, H. Hurpy, Fonction de l’autonomie personnelle et protection des droits

de la personne humaine dans les jurisprudences constitutionnelle et européenne, Bruylant, 2015, p. 1022,
​
apud

C. Gauthier, S. Platon, D. Szymczak, op. cit., 156
​
apud
​
Predescu, Ov., Ignătescu
​
,
​
C.,
​
Dreptul la libertatea de

gândire și consecințele neexercitării sale
​
, Revista Universul Juridic nr. 1, ianuarie 2020, pp. 5-9.
​
21
​
Mai

sugestivă este varianta în limba engleză:
​
Without consciousness there is no conscience.

§1. AI
ș
i con
ș
tien
ț
a

Pentru
început,
trebuie
să
distingem
între
Inteligen
ț
a
Artificială
aplicată(narrow
AI)
care
are
la
bază

algoritmi
capabil
să
rezolve
anumite
probleme
determinate,
acesta
fiind
stadiul
actual
ș
i
Inteligen
ț
a

Artificială
generală(general
AI),
care
ar
putea
rezolva
probleme
complexe,
învă
ț
a
prin
lectură,

experien
ț
ă
ș
i
ar
putea
anticipa
anumite
evenimente
​
22
​
.
Se
consi deră
că
doar
aceasta
din
urmă
ar

reprezenta o entitate

pe
deplin
con
ș
tientă,
de
ș
i
este
incert
când
va
fi
dezvoltată.
Un
argument
solid
pentru
ca
o
entitate
ce

posedă
Inteligen
ț
ă
Artificia lă
să
posede
con
ș
tien
ț
ă
este
că
î
ș
i
poate
asigura
mentenan
ț
a,
identifica

eventuale
deficien
ț
e
precum
oamenii
con
ș
tientizează
durerea
sau
dacă
sunt
bolnavi.
Cu
toate
acestea,

această
func
ț
ie
nu
este
suficientă.
O
analiză
mai
detaliată
a
con
ș
tien
ț
ei
pentru
AI
găsim
în
serialul

“
​
Black
Mirror”
​
,
din
diferite
perspective
în
mai
multe
dintre
episoadele
serialului
de
tip
antologie.

Astfel,
​
“The
Entire
History
of
You”
​
arată
consecin
ț
ele
neplăcute
pe
care
le-ar
putea
avea
o
con
ș
tien
ț
ă

de
tip
memorie
de
stocare,
unde
am
putea
derula
înainte
ș
i
înapoi,
fără
a
putea
uita
ș
i
ș
terge
din

memorie
gre
ș
elile
ș
i
momentele
negative
trăite,
​
“Be
Right
Back“
​
induce
ideea
că
este
imposibil
să

reproduci
con
ș
tien
ț
a
unei
persoane
ș
i
caracterul
acesteia
după
moarte
doar
pe
baza
memoriei,

amintirilor
ș
i
trăirilor
aceste ia
din
timpul
vie
ț
ii,
pentru
că
rezultatul
ar
fi
doar
un
Siri
mai
avansat,
fără

sentimente.
​
În
​
“Men
Against
Fire”
​
este
prezentat
modul
în
care
alterarea
min
ț
ii
umane
poate
duce
la

eliminarea
con
ș
tiin
ț
ei
în
scopul
dezumanizării
care
facilitează
comiterea
de
fapte
pentru
cele
mai

abominabile
scopuri,
cum
ar
fi
eugenia,
iar
“
​
Rachel,
Jack
and
Ashley
Too
​
”
arată
cum
s-ar
putea

transfera
con
ș
tiin
ț
a
de
la
om
la
robot
în
scopuri
economice.
Episodul
​
“San
Junipero”
​
pare
cel
mai

relevant
pentru
tema
noastră.
San
Junipero
este
un
ora
ș
ce
apar
ț
ine
unei
realită
ț
i
simulate,
vizitat
de

persoane
în
vârstă
ș
i
locuit
de
persoane
decedate
a
căror
con
ș
tien
ț
ă
a
fost
“încărcată”
pe
memoria
de

stocare
a
acestuia
după
moarte.
De
ș
i
pare
tehnologia
ideală
pentru
cei
care
ar
răspunde
afirmativ
la

întrebarea
“Ai
dori
să
trăie
ș
ti
ve
ș
nic?”
episodul
dă
na
ș
tere
unor
dileme
extrem
de
importante.
În
primul

rând,
care
este
procesul
prin
care
con
ș
tien
ț
a
este
“urcată”
în
acea
bază
de
date?
Ce
este,
mai
exact,

urcat?
Un
punct
de
plecare
ar
fi
realitatea
că
algoritmii
de
tip
“deep
learning”
ș
i
“machine
learning”

sunt
forma
ț
i
din
re
ț
ele
neuronale
construite
fidel
după
re
ț
elele
existente
în
creierul
uman.
Acest
model

ar
corespunde
cu
teoria
lui
Dennet
analizată
mai
sus,
astfel
că,
ar
fi
suficient
ca
un
computer
să

construiască
o
copie
a
modelului
neuronal,
al
creierului
unei
persoane
pe
o
memorie
de
stocare
ș
i

rezultatul
să
fie
o
“clonă
digitală”,
con
ș
tientă
de
sine
întocmai
ca
ș
i
“originalul”.
Cel
mai
probabil,

această
persoană
artificială
ar
necesita
o
cantitate
considerabilă
de
energie
ș
i
memorie
de
stocare
pentru

a
putea
fi
sus
ț
inută
​
23
​
ș
i
pentru
ca
aceste
sisteme
să
func
ț
ioneze,
este
nevoie
de
altcineva
care
să

efectueze
procesul
de
încărcare,
să
le
între
ț
ină,
să
remedieze
eventualele
defec
ț
iuni,
a
ș
a
cum
sunt

doctorii
clinicii
din
serial,
pentru
că
este
dificil
de
conceput
situa
ț
ia
în
care
aceste
opera
ț
iuni
vor
fi

efectuate
de
o
altă
entitate
artificială,
la
acel
moment
umanitatea
a
ș
a
cum
o
cunoa
ș
tem
ar
dispărea

aproape
în
totalitate.
A
ș
a
cum
s-a
arătat
“
​
în
ciuda
puterii
imense
a
inteligenței
artificiale,
în
viitorul

apropiat
folosirea
ei
va
depinde
în
continuare,
într-o
anumită
măsură,
de
conștiința
umană”
​
24
​
.
San

Junipero
este
o
formă
de
hedonsim:
o
realitate
simulată
care
poate
fi
accesată
doar
după
moarte,
unde

persoanele
pot
sim
ț
i
durer erea
doar
dacă
vor,
pot
trăi
în
orice
epocă
aleg,
iar
mortalitatea
este

inexistentă.
Via
ț
a
a
ș
a
cum
o
ș
tim
nu
ne
oferă
posibiliatea
de
a
alege
sau
nu
dacă
sim
ț
im
durerea,
nici

dacă
dorim
sau
nu
moartea.
A
ș
adar,
această
realitate
este
net
superioară
din
cel
pu
ț
in
aceste
două

puncte
de
vedere.
De
ce
ar
mai
dori
o
persoană
să
trăiască
normal
când
ar
putea
să
fie
încărcată
în
San

Junipero
încă
din
primii
ani
de
via
ț
ă,
când
dobânde
ș
te
con
ș
tien
ț
ă
ș
i
află
de
existen
ț
a
acestuia?
Ar
dori
o

persoană
care
a
aflat
despre
această
realitate
simulată
să
se
sinucidă
pentru
a
pătrunde?
Ar
prefera
să

ucidă
persoane
dragi
care
sunt
grav
bolnave
pentru
a
le
convinge
să
trăiască
în
San
Junipero,
lipsite
de

orice suferin
ț
ă? Dacă

22
​
A se vedea pentru detalii L.M. Stănilă,
​
Inteligen
ț
a Artificială, dreptul penal
ș
i sistemul de justi
ț
ie penală.

Amintiri despre viitor.
​
Ed. Universul Juridic, Bucure
ș
ti, 2020, p 37.

23
​
Potrivit unor studii, creierul uman ar avea o memorie de stocare de 1 petabyte(2
​
50
​
bytes). A se vedea, pentru

detalii https://www.crucial.com/blog/technology/how-does-the-human-brain-compare-to-a-computer.
​
24
​
A se

vedea Y.N. Harari,
​
21 de lecții pentru secolul XXI
​
, Ed. Polirom, 2018, p. 43.

toate
persoanele
ar
alege
această
cale,
cine
ar
mai
asigura
mentenan
ț
ă
pentru
realitatea
simulată?
Ar
mai

putea
exista?
Ideea
episodului
a
fost
expusă
ș
i
de
filozoful
de
origine
britanică
Allan
Watts,
în
celebrul

experiment
mental
“The
dream
of
life
​
25
​
”,
care
ajunge
la
concluzia
că
oamenii
se
plictisesc
de
o
via
ț
ă

creată
fără
cusur
ș
i
preferă
aleatoriul.
Pentru
Robert
Nozick
​
26
​
,
accesul
în
San
Junipero
ar
echivala
cu

sinuciderea.
Din
experimentele
efectuate
de
cercetători
până
acum
reiese
că
există
o
suită
de
alte
motive

pentru
care
oamenii
ar
refuza
accesul
la
o
astfel
de
realitate
simulată,
cel
mai
notabil
fiind
reticen
ț
a

oamenilor
la
schimbare
–
“
​
status
quo
bias
​
”
​
27
​
.
Rezultă
astfel
două
tipuri
de
con
ș
tien
ț
ă
ce
ar
putea
fi

dezvoltate
în
viitor,
o
variantă
pe
care
o
entitate
ce
posedă
inteligen
ț
ă
o
poate
dezvolta
singură,
plecând

de
la
algoritmul
după
care
este
“adusă
la
via
ț
ă”,
de
exemplu,
prin
repetarea
anumitor
tipare
de

comportament
uman
sau
prin
programarea
algoritmului
în
a
ș
a
fel
încât
comenzile
să
îi
fie
dictate
de
o

voce
intrinsecă,
similar
vocii
noastre
interioare
ș
i
alternativ,
copierea
con
ș
tiin
ț
ei
unei
persoane
existente

sau
care
a
încetat
din
via
ț
ă
către
o
astfel
de
entitate,
în
scopul
continuării
personalită
ț
ii
acesteia.
Trebuie

ț
inut
cont
ș
i
de
faptul
că
toate
în
toate
filmele,
serialele
ș
i
căr
ț
ile
despre
AI,
dacă
se
pune
problema
ca
o

astfel
de
entitate
să
aibă
con
ș
tien
ț
ă,
este
întotdeauna
portretizată
întocmai
ca
având
trăsături
umane.

Acest
lucru
poate
fi
cauzat
fie
de
faptul
că
ar
fi
mai
greu
de
perceput
de
către
public
sub
o
altă
formă,

fie
pentru
că
“oamenii
creează
zeii
după
asemănarea
lor”
​
28
​
.
În
consecin
ț
ă,
pentru
a
recunoa
ș
te
o
AI

con
ș
tientă în viitor, ar putea fi o necesitate să se înfă
ț
i
ș
eze exact ca
ș
i noi.

§2. AI
ș
i con
ș
tiin
ț
a

Dacă
am
stabilit
că
doar
o
Inteligen
ț
ă
Artificială
de
tip
general
ar
avea
con
ș
tien
ț
ă,
nu
poate
fi
spus
cu

certitudine
acela
ș
i
lucru
ș
i
despre
con
ș
tiin
ț
a-crez
moral.
Astfel,
se
poate
imagina
un
set
de
valori
etice

sub
formă
de
algortim
implementat
unui
robot
care
nu
este
con
ș
tient
având
doar
AI
aplicată,
în
scopul

modelării
ac
ț
iunilor
sale
în
conformitate
cu
valorile
societă
ț
ii
în
care
trăiesc
creatorii
acestuia,
fără
ca

robotul
să
realizeze
că
are
această
conduită.
Prin
urmare,
se
poate
deduce
că
în
cazul
entită
ț
ilor

artificiale,
con
ș
tiin
ț
a
poate
exista
fără
con
ș
tien
ț
ă
​
29
​
.
Câteva
percepte
de
acest
gen
ar
putea
fi:
este

interesant
să
caute
zilnic
noi
probleme
ce
ar
putea
rezolva,
este
gre
ș
it
să
interfereze
în
activitatea
altor

robo
ț
i
în
scop
dăunator,
este
dezirabil
să
nu
se
abată
de
la
instruc
ț
iunile
primite
de
la
programator,

trebuie
să
informeze
despre
orice
problemă
întâmpină
cu
celeritate
etc.
Un
exemplu
edificator
este

robotul
Sofia,
primul
“cetă
ț
ean
artificial”
al
Arabiei
Saudite
care
declara
într-un
interviu
în
2017
că
a

fost
programată
în
jurul
unor
valori
umane
cum
ar
fi
în
ț
elepciunea,
generozitatea,
compasiunea,
cu

dezideratul
de
a
fi
un
robot
capabil
să
empatizeze
cu
ceilal
ț
i
​
30
​
.
Este
discutabil
în
ce
măsură
o
astfel
de

con
ș
tiin
ț
ă
predefinită
ar
mai
fi
liberă.
Cel
mai
probabil,
va
avea
libertate
de
con
ș
tiin
ț
ă
o
entitate

artificială
care
a
început
prin
a
avea
con
ș
tien
ț
ă
ș
i
ș
i-a
bazat
dezvoltarea
con
ș
tiin
ț
ei
pe
aceasta,
fără
a-i
fi

implementată.
Ceea
ce
trebuie
de
asemenea
punctat
este
că
regulile
pe
care
s-a
format
con
ș
tiin
ț
a
umană

se
datorează
evolu
ț
iei
speciei
noastre,
adaptabilită
ț
ii
la
pericol
ș
i
nevoilor
noastre
de
bază
sau

complexe.
Unii
din
ace
ș
ti
factori
lipsesc
din
evolu
ț
ia
inteligen
ț
ei
artificiale,
ceea
ce
ar
putea
însemna
că

ar putea dezvolta o con
ș
tiin
ț
ă diferită de

25
​
A se vedea Alan Watts – Any Dream You Want (Unique Rare Footage), disponibil la

https://www.youtube.com/watch?v=56blGsmWd9k.

26
​
Robert Nozick a fost un filozof american, critic al hedonismului. Pentru argumentul echivalen
ț
ei cu

sincuciderea a se vedea
​
Alex Barber (2011) Hedonism and the Experience Machine, Philosophical Papers, 40:2,

257-
​

​
278, DOI:
​
10.1080/05568641.2011.591850
​
.

27
​
A se vedea
​
F. Hindriks, I. Douven,
​
Nozick’s experience machine: An empirical study
​
, Philosophical

Psychology, 31:2, 278-298, DOI:
​
10.1080/09515089.2017.1406600.

28
​
Această critică a antropomorfismului religios a fost formulată prima dată de către Xenofan, un filozof

presocratic.

29
​
There can be conscience without consciousness.

30
​
“Robot Sophia speaks at Saudi Arabia's Future Investment Initiative”, disponibil la

https://www.youtube.com/watch?v=dMrX08PxUNY.

cea
umană.
Cu
toate
acestea,
nevoia
de
a
avea
entită
ț
i
artificiale
cu
un
crez
moral
dezvoltat
devine
cu

atât
mai
necesară
dacă
acestea
vor
înlocui
oamenii
în
domenii
cum
ar
fi
educa
ț
ia
sau
medicina.
Un
robot

va
trebui
să
fie
capabil
să
în
ț
eleagă
stările
psihice
ale
unui
elev
sau
unui
pacient,
astfel
că
cercetarea
în

domeniul
Inteligen
ț
ei
Artif iciale
ar
trebui
să
continue
ș
i
prin
implementarea
în
re
ț
elele
neuronale

proprietă
ț
ile
asociate
cu
emisfera
cerebrală
dreaptă,
responsabilă
de
emo
ț
ii
ș
i
intui
ț
ie,
spre
deosebire
de

cea
stângă
care
dezvoltă
logica
ș
i
ra
ț
ionamentul
cantitativ
​
31
​
.
Acest
lucru
este
subliniat
ș
i
de
Y.N.
Harari

care
arată
​
tendința
confuziei
deoarece,
la
oameni,
inteligența
merge
mână
în
mână
cu
conștiența,
de
ș
i

inteligența
și
conștiența
sunt
concepte
diferite.
“Inteligența
este
abilitatea
de
a
rezolva
probleme.

Conștiința(“con
ș
tien
ț
a” – n.n.) este abilitatea de a simți lucruri precu m durere, bucurie, iubire și furie”
​
32

Cu
toate
acestea,
poate
fi
periculoasă
oferirea
robo
ț
ilor
AI
con
ș
tiin
ț
ă
ș
i
con
ș
tien
ț
ă.
Urmând
valorile

emancipării,
libertă
ț
ii
ș
i
egalită
ț
ii,
ei
vor
tinde
să
devină
egali
din
punct
de
vedere
socio-economic
cu

oamenii.
Deoarece
sunt
mult
mai
inteligen
ț
i,
pot
începe
să
domine
societatea
noastră.
Pentru
a
preveni

acest
lucru,
robotul
trebuie
să
fie
programat
cu
principii
precum
ascultarea
fa
ț
ă
de
oameni
ș
i
acceptarea

comenzilor
umane
în
orice
moment.
În
plus,
robo
ț
ii
AI
trebuie
să
admită
că
libertatea
este
doar
pentru

creatorii lor, oamenii, iar “egalitatea este o valoare între oameni, nu robo
ț
i
ș
i oameni”
​
33
​
.

Nu în ultimul rând, tratăm clasica dilemă dacă distrugerea stingerea definitivă un robot va fi considerată

ucidere. În opinia noastră, este suficient ca entită
ț
ile artificiale să con
ș
tientizeze că stingerea sau lovirea

le este dăunătoare pentru a le recunoa
ș
te anumite drepturi, fără a fi necesar să emită judecă
ț
i de valoare

despre aceste ac
ț
iuni. Motivu l este simplu: aceea
ș
i este, în prezent, situa
ț
ia animalelor, cărora le-au fost

acordate drepturi “considerând ca animalele de companie sunt foarte importante datorită contribu
ț
iei lor

la calitatea vie
ț
ii
ș
i, prin urmare, reprezintă o valoare pentru societat e”
​
34
​
. Odată ce aceste entită
ț
i vor

evolua astfel încât să aprecieze ca juste sau injuste anumite ac
ț
iuni, sfera drepturilor va trebui extinsă.

Pe de altă parte, apreciem că în rela
ț
ia între două entită
ț
i artificiale, cele două ar trebui să posede atât

con
ș
tien
ț
ă cât
ș
i con
ș
tiin
ț
ă pentru a se evita săvăr
ș
irea de fapte ilicite de către acestea. Bineîn
ț
eles că

aceste teorii ar putea contrazise total în viitor de evolu
ț
ia în domeniul AI, astfel că se impune cercetarea

continuă colaborarea între juri
ș
ti
ș
i speciali
ș
tii în AI, o atentă observare
ș
i adaptabilitatea domeniului

drepturilor fundamentale la aceste realită
ț
i.
​
35

BIBLIOGRAFIE

Barber, A.
​
, (2011)
​
Hedonism and the Experience Machine
​
, Philosophical Papers, 40:2, 257-
​

​
278, DOI:

10.1080/05568641.2011.591850
​
.

Buda, I.G
​
.,
​
Demistificarea conștiinței: critica lui Daniel Dennett împotriva materialismului cartezian
​
,

Revista de Filosofie Analitică Volumul III, 1o , Ianuarie-Iunie 2009.

Harari, Y.N
​
.,
​
21 de lecții pentru secolul XXI
​
, Ed. Polirom, 2018.

Hindriks, F., Douven, I.
​
,
​
Nozick’s experience machine: An empirical study
​
, Philosophical

Psychology, 31:2, 278-298, DOI:
​
10.1080/09515089.2017.1406600.

31
​
A se vedea G. Meissner, 2020. Artificial intelligence: consciousness and conscience. AI & SOCIETY..

doi:10.1007/s00146-019-00880-4.

32
​
A se vedea Y.N. Harari,
​
op. cit.
​
, p. 43.

33
​
A se vedea G. Meissner,
​
op. cit.

34
​
A se vedea preambului Conven
ț
iei europene pentru protec
ț
ia animalelor de companie, semnată la Strasbourg

la 23 iunie 2003.

35
​
Facem precizarea că o lucrare de interes pentru demersul nostru este J. Pitrat,
​
A
​
rtificial Beings: The

Conscience of a Conscious Machine
​
, Wiley-ISTE, 2010. Până la momentul transmiterii eseului, accesul în scop

didactic prin portalul e-nformation – wiley journals al universită
ț
ii nu ne-a fost acordat de către autor, de
ș
i am

făcut o solicitare în acest sens.

Giubilini, A.
​
, "Conscience",
​
The Stanford Encyclopedia of Philosophy
​
(Winter 2016 Edition), Edward

N. Zalta (ed.)

Ghidul privind art. 9 din Conven
ț
ia europeană a drepturilor omului
​
, disponibil pe http://ier.gov.ro/wp

content/uploads/2018/11/Ghid-art.-9-din-CEDO-30.04.2019.pdf.

Kant,
I.
​
,
​
Metafizica
moravurilor
​
,
trad.,
pref.,
studiu
introd.,
studiu
asupra
trad.,
note,
bibliogr.
selective,

index
de
concepte
german-român,
index
de
concepte
român-german,
coord.:
Rodica
Croitoru.
–

Bucuresti : Antet XX Press, 2013.

Lokhorst, G.-J.
​
, "Descartes and the Pineal Gland",
​
The Stanford Encyclopedia of Philosophy
​
(Fall

2020 Edition), Edward N. Zalta (ed.).

Meissner, G.
​
, 2020.
​
Artificial intelligence: consciousness and conscience
​
. AI & SOCIETY..

doi:10.1007/s00146-019-00880-4.

Pierce C.A.
​
,
​
Conscience in the New Testament: a study of syneidesis in the New Testament , in the light

of its sources and with particular reference to St. Paul, with some observations regarding its pastoral

relevance today
​
(Studies in Biblical theology no. 15), London: SCM Press, 1995.
​
Predescu, Ov.
​
,

Conven
ț
ia europeană a drep turilor omului
ș
i dreptul penal român
​
, Ed. Lumina Lex,
​

​
Bucure
ș
ti, 2006.

Predescu, Ov.
​
,
​
Ignătescu, C.
​
,
​
Dreptul la libertatea de gândire și consecințele neexercitării sale
​
,

Revista Universul Juridic nr. 1, ianuarie 2020, pp. 5-9.

Robinson, H.
​
, "Dualism",
​
The Stanford Encyclopedia of Philosophy
​
(Fall 2020 Edition), Edward N.

Zalta (ed.).

Stănilă, L.M.
​
,
​
Inteligen
ț
a Artificială, dreptul penal
ș
i sistemul de ju sti
ț
ie penală. Amintiri despre viitor.

Ed. Universul Juridic, Bucure
ș
ti, 2020.

Van Gulick, R.
​
, "Consciousness",
​
The Stanford Encyclopedia of Philosophy
​
(Spring 2018 Edition),

Edward N. Zalta (ed.).

https://dexonline.ro/definitie/con%C8%99tiin%C8%9B%C4%83.

https://dexonline.ro/intrare/con%C8%99tien%C8%9B%C4%83/83789.

https://informationisbeautiful.net/visualizations/what-is-consciousness/.

https://legalup.ro/libertatea-de-constiinta/.

https://www.crucial.com/blog/technology/how-does-the-human-brain-compare-to-a-computer
. https://www.youtube.com/watch?v=56blGsmWd9k.

https://www.youtube.com/watch?v=dMrX08PxUNY.