Universul inteligen [613048]

Universul inteligen
ț
ei artificiale de stocare a con
ș
tiin
ț
elor umane: de

la co
ș
mar la utopie

"Când știi că visu-acesta cu moarte se sfârșește,

Că-n urmă-ți rămân toate astfel cum sunt, de dregi

Oricât ai drege-n lume – atunci te obosește

Eterna alergare…
ș
i-un gâ nd te-ademenește:

Că vis al morții-eterne e viața lumii-ntregi."

(Mihai Eminescu- Împărat
ș
i proletar)

În
ultimul
timp,
inteligen
ț
a
artificială
a
avansat
în
mod
semnificativ
aducând
numeroase

beneficii
în
diferite
domenii
precum
cel
al
medicinei,
al
recunoa
ș
terii
vocale
ș
i
faciale,
al

educa
ț
iei,
al
finan
ț
elor,
al
mijloacelor
de
transport
ș
i
chiar
al
agriculturii.
Folosind
asisten
ț
i

virtuali
precum
Siri
sau
Alexa
sau
chiar
deblocându-ne
telefonul
prin
recunoa
ș
tere
facială,

apelăm
la
inteligen
ț
a
artificială.
Astfel,
domeniul
AI
prinde
amploare
pe
zi
ce
trece,

integrându-se aproape imperceptibil în modul nostru de via
ț
ă.

Dar
cât
de
departe
poate
ajunge
inteligen
ț
a
artificială?
Poate
tehnologia
evolua
atât
de

mult
încât
să
ne
depoziteze
con
ș
tiin
ț
a?
Părerea
mea
este
că
am
fi
naivi
dacă
am
refuza
să
credem

că
inteligen
ț
a
artificială
nu
ar
putea
evolua
atât
de
mult,
iar
principalul
martor
care
sus
ț
ine

această
idee
este
istoria.
Acum
două
secole
oamenii
nu
aveau
nici
măcar
ceas
de
ș
teptător
ș
i
de

aceea,
un
om
bătea
la
geamurile
caselor
cu
un
bă
ț
din
bambus
pentru
a
trezi
lumea.
Desigur,

ace
ș
ti
oameni
nici
măca r
nu
se
gândeau
că
în
viitor
vor
apărea
tehnologii
atât
de
dezvoltate,
cu

atât
mai
pu
ț
in
telefoane
care
să
aibă
încorporate
aplica
ț
ii
în
acest
sens.
În
plus,
dacă
le-ai
fi

povestit
de
inteligen
ț
a
artificială
te-ar
fi
crezut
nebun.
Din
acest
motiv,
consider
că
nu
trebuie
să

ne
limităm
nici
imagina
ț
ia,
nici
modul
de
gândire,
întrucât
viitorul
deseori
se
dovede
ș
te
plin
de

surprize.

Deci,
pornim
de
la
premisa
că
tehnologia
poate
evolua
atât
de
mult
încât
să
ne
depoziteze

con
ș
tiin
ț
a.
Acum
se
nasc
noi
întrebări:
cum
ar
arăta
spa
ț
iul
în
care
ne-ar
fi
depozitate
con
ș
tiin
ț
ele?

Cea
depozitată
ar
fi
con
ș
tiin
ț
a
noastră
într-adevăr
sau
doar
o
copie
a
ei?
Am
putea
interac
ț
iona
ș
i

cu
alte
con
ș
tiin
ț
e?
Dacă
da,
ce
sistem
de
legi
sau
norme
morale
ar
putea
men
ț
ine
echilibrul
într-o

astfel
de
lume/societate?
După
cum
se
poate
observa
există
o
mul
ț
ime
de
variabile.
Astfel,
acest

univers
al
con
ș
tiin
ț
elor
ar
putea
arăta
fie
ca
lumea
reală,
obi
ș
nuită,
dar
în
acela
ș
i
timp,
ar
putea
fi

ceva
cu
totul
diferit,
o
lume
digitalizată
care
să
fie
dincolo
de
tot
ce
ș
tiam
până
acum.
Totu
ș
i,

pentru
a
reduce
din
toate
aceste
incertitudini
ș
i
pentru
a
analiza
poten
ț
ialele
avantaje
ș
i

dezavantaje
ale
unei
astfel
de
lumi
propun
să
ne
raportăm
la
un
model
concret
ș
i
anume
al

universului San Junipero, prezentat în serialul Black Mirror.

Pe
scurt,
depozitându-
ț
i
con
ș
tiin
ț
a
fie
temporar,
fie
permanent
în
acest
univers
dobânde
ș
ti

posibilitatea
de
a
face,
în
principiu,
orice
î
ț
i
dore
ș
ti.
Po
ț
i
să
ai
orice
vârstă
ș
i
să
trăie
ș
ti
în
orice
an.

Totu
ș
i,
ceva
ce
nu
po
ț
i
face
este
să
te
răne
ș
ti
fizic.
În
aparen
ț
ă,
San
Junipero
pare
un
univers

ideal,
dar
din
punctul
meu
de
vedere
are
un
mare
dezavantaj.
Ș
tiind
că
pot
face
orice,
oamenii
î
ș
i

pierd
sim
ț
ul
responsabil ită
ț
ii.
E
adevărat,
chiar
dacă
ar
încerca
să-i
rănească
pe
al
ț
ii
fizic,
n-ar

avea
niciun
efect,
dar
asta
nu
înseamnă
că
nu
le
pot
aduce
prejudicii
morale.
Într-un
prim

moment,
totul
poate
să
pară
ideal
la
gândul
că
po
ț
i
face
ce
vrei,
dar
ș
i
ceilal
ț
i
se
află
în
aceea
ș
i

situa
ț
ie,
iar
dacă
ceea
ce
î
ș
i
doresc
ei
e
să
î
ț
i
distrugă
ț
ie
con
ș
tiin
ț
a,
la
cine
po
ț
i
apela?
Nu
există

for
ț
ă de sanc
ț
ionare
ș
i nici reguli. Iar dacă ar exista, ar putea să se aplice conform?

Propun pentru a răspunde la această întrebare să analizăm dacă
ș
i cum s-ar aplica

drepturile, libertă
ț
ile
ș
i îndatoririle fundamentale ale omului într- un asemenea univers.

Pentru
început
ar
fi
dreptul
la
via
ț
ă
ș
i
la
integritate
fizică
ș
i
psihică.
Primele
două
păr
ț
i

anume
dreptul
la
via
ț
ă
ș
i
dreptul
la
integritate
fizică
ies
din
discu
ț
ie
deoarece
nu
pot
fi
aplicabile,

întrucât
chiar
dacă
este
vie
con
ș
tiin
ț
a,
lipse
ș
te
acea
sinteză
a
proceselor
biologice,
fizice,
chimice

ș
i
mecanice
ce
caracteriz ează
via
ț
a.
Totu
ș
i,
rămâne
viabil
dreptul
la
integritate
psihică.
Nu
există

nimic
care
să
îl
poată
apară
ș
i
nu
po
ț
i
impune
nimănui
să
î
ț
i
respecte
acest
drept
în
universul
San

Junipero.
Oamenii
ar
putea
foarte
u
ș
or
să
ajungă
să
se
înjosească
unii
pe
al
ț
ii,
să
dezvolte

comportamente
inumane
ș
i,
astfel,
întreaga
societate
ar
deveni
una
dominată
de
haos,
departe
de
a

fi ideală.

Desigur,
numeroase
drepturi
precum
dreptul
la
ocrotirea
sănătă
ț
ii,
dreptul
la
un
mediu

sănătos,
dreptul
la
mo
ș
tenire
ies,
de
asemenea,
din
discu
ț
ie
întrucât
nu
pot
fi
aplicate
în
acest

univers.

Apoi,
avem
dreptul
la
libertate.
În
aparen
ț
ă,
acesta
apar
ț
ine
tuturor,
căci
fiecare
poate

ac
ț
iona
conform
propriilo r
dorin
ț
e.
Totu
ș
i,
în
esen
ț
ă,
trebuie
ț
inut
cont
de
faptul
că
libertatea
unui

individ
trebuie
să
se
oprească
acolo
unde
începe
libertatea
altuia.
Altfel,
din
nou
prin
lipsa
unor

reglementări specifice se ajunge la anarhie.

În
continuare,
avem
dreptul
la
via
ț
ă
intimă,
familială
ș
i
privată.
Acest
drept
prevede
că

persoana
poate
dispune
de
ea
însă
ș
i
în
limita
bunelor
moravuri.
Totu
ș
i,
într-o
lume
superficială
în

care fiecare decide ce e bun
ș
i ce e rău, bunele moravuri ajung să î
ș
i piardă relevan
ț
a.

Nu
în
ultimul
rând,
avem
libertatea
de
con
ș
tiin
ț
ă,
care
poate
fi
diseminată,
de
asemenea,

într-un
sens
aparent
ș
i
în
unul
concret.
Astfel,
la
prima
vedere,
pare
că
universul
San
Junipero

este
un
rai
al
con
ș
tiin
ț
elor,
unde
fiecare
î
ș
i
poate
dezlăn
ț
ui
voin
ț
a.
Dar
este
oare
aceasta

con
ș
tiin
ț
a
noastră
adevărată?
În
momentul
de
fa
ț
ă
a
ș
fi
tentată
să
zic
că
a
ș
a
ceva
ar
fi
imposibil,

întrucât
mi
se
pare
extrem
de
dificil
să
transpui
ceva
atât
de
abstract
în
cifre
care
ulterior
să

reproducă
o
întreagă
con
ș
tiin
ț
ă.
Dar,
din
nou,
nu
trebuie
să
credem
că
ceva
este
imposibil
doar

pentru că pare imposibil în momentul de fa
ț
ă.

În
urma
acestei
scurte
analize,
putem
distinge
2
categorii
de
drepturi:
drepturi
care
ș
i-ar

pierde
irevocabil
importan
ț
a
în
universul
San
Junipero
(dreptul
la
sănătate,
dreptul
la
integritate

fizică
etc)
ș
i
drepturi
care
ar
putea
fi
relevante
dacă
ar
exista
un
sistem
de
constrângere
(dreptul
la

integritate psihică, dreptul la libertate etc.).

Acum,
cred
că
merită
discutată
ipoteza
în
care
ar
exista
un
sistem
de
reguli
în
universul

San
Junipero.
Consider
că
singurul
mod
prin
care
ar
putea
exista
este
prin
prisma
unui
algoritm.

A
ș
a
cum
există
un
algori tm
care
îi
împiedică
să
se
rănească
fizic,
a
ș
a
ar
putea
exista
unul
ș
i
care

să
îi
împiedice
să
se
rănească
psihic.
De
crearea
unui
aparat
statal
nu
poate
fi
vorba,
întrucât

existen
ț
a
reziden
ț
ilor
în
San
Junipero
e
relativă
(unii
au
dreptul
doar
la
5
ore
pe
săptămâna,
unii

rămân
definitiv
în
urmă
mor
ț
ii).
Dar
presupunând
că
ar
exista
un
algoritm
care
să
reglementeze

astfel
de
norme
morale,
con
ș
tiin
ț
ele
ar
fi
în
mod
clar
alterate
ș
i
ș
i-ar
pierde
caracterul
uman.
În

realitate,
oricât
de
virtuos
ai
fi
tot
nu
e
ș
ti
imun
la
gânduri
rele
sau
imorale.
Important
este
faptul

că
po
ț
i
trece
peste
ele
ș
i
că
nu
le
materializezi.
Dar
ș
i
ele,
chiar
negative
fiind,
contribuie
la

existen
ț
a
ș
i
la
continuitatea
umanită
ț
ii
care
nu
este
privată
de
defecte.
Un
algoritm
care
ar
impune

o
conduită
desăvâr
ș
ită
morală
a
con
ș
tiin
ț
elor
ar
submina
astfel
toată
umanitatea
lor.
Sentimentele

ș
i
gândurile
nu
ar
mai
avea
consisten
ț
ă,
toate
acele
defecte
care
ne
individualizează
ar
dispărea,

to
ț
i am fi o mul
ț
ime de con
ș
tiin
ț
e fără fond.

Astfel, un univers ca San Junipero poate fi ridicat aproape la rangul de iluzie. În lipsa

reglementărilor se transformă în co
ș
mar, în prezen
ț
a lor devine ceva fără sens, o utopie.

Dar
oare
nu
există
o
cale
de
mijloc?
Cred
că
o
metodă
este
propusă
chiar
în
serial
ș
i

anume
aceea
că
oamenii
să
aibă
acces
doar
5
ore
pe
săptămâna
la
acest
univers.
Totu
ș
i,
mai
mult

decât
atât,
cred
că
ar
trebui
să
fie
priva
ț
i
de
posibilitatea
de
a
deveni
reziden
ț
i
permanen
ț
i
în
urma

mor
ț
ii.
Astfel,
San
Junipero
devine
mai
mult
un
joc,
un
loc
unde
să
evadezi
câteva
ore
pe

săptămâna,
unde
nu
po
ț
i
să
ai
un
impact
semnificativ
asupra
vie
ț
ilor
celorlal
ț
i.
Astfel,
se
poate

crea
ș
i
un
sistem
de
constrângere
asemănător
celor
din
jocuri
cum
ar
fi
acela
că
dacă
gre
ș
e
ș
ti
de

mai
mult
de
3
ori
ș
i
îi
răne
ș
ti
pe
al
ț
ii
ajungi
să
fii
exclus
din
acest
joc
(sau
î
ț
i
iei
ban).
Această

constrângere
nu
ar
fi
aplicabilă
însă
ș
i
în
cazul
în
care
ei
ar
ramâne
permanent
în
San
Junipero.

Cum
ar
fi
să
te
treze
ș
ti
deodată
că
nu
mai
ai
acces
în
acea
lume
a
con
ș
tiin
ț
elor
în
care
se
află
to
ț
i

cei
dragi
ț
ie?
Din
nou,
s-ar
ajunge
la
haos
ș
i
suferin
ț
ă,
atât
din
partea
celui
exclus
cât
ș
i
din
partea

celor care rămân în absen
ț
a celui exclus.

Totu
ș
i,
ar
fi
interesant
de
analizat
cum
se
supune
sau
nu
un
univers
al
con
ș
tiin
ț
elor,

principalelor
principii
generale
pentru
proiectarea,
dezvoltarea
ș
i
implementarea
sistemelor

autonome
ș
i inteligente.

Primul
principiu
se
referă
la
faptul
că
inteligen
ț
a
artificială
trebuie
să
fie
creată
ș
i
folosită

astfel
încât
să
respecte,
să
promoveze
ș
i
să
protejeze
drepturile
omului
recunoscute
la
nivel

interna
ț
ional.
Problemati ca
drepturilor
omului
am
discutat-o
anterior,
dar
ar
fi
interesant
de

dezbătut
ș
i
recunoa
ș
terea
ș
i
acceptarea
interna
ț
ională
a
unui
astfel
de
univers
de
stocare
a

con
ș
tiin
ț
elor.
În
momentul
de
fa
ț
ă
cred
că
societatea
nu
este
pregătită
pentru
o
astfel
de
inova
ț
ie.

Putem
să
ne
gândim
la
problema
eutanasierii
care
se
discută
de
ani
întregi
ș
i
care
nu
este

rezolvată
la
nivel
global.
Sunt
ț
ări
care
au
reglementări
specifice
ș
i
permit
eutanasierea
din

diferite
motive,
dar,
de
asemenea,
sunt
ț
ări
care
se
opun
puternic
acestei
idei.
Astfel,
chiar
dacă

ar
fi
creat
un
"San
Junipero"
mă
îndoiesc
că
ar
putea
fi
acceptat
la
nivel
mondial
într-un
timp

scurt
ș
i mai mult decât a tât, ar avea
ș
anse mari chiar să nu fie acc eptat deloc.

Al
doilea
este
acela
că
to
ț
i
creatorii
de
inteligen
ț
ă
artificială
trebuie
să
motiveze
ș
i
să

dovedească
utilitatea
a
ceea
ce
realizează.
Astfel,
creatorii
unei
lumi
de
depozitare
a
con
ș
tiin
ț
elor

umane ar trebui să dovedească faptul că aceasta are un scop care să fie folositor. Acum, consider

că este foarte u
ș
or să dov ede
ș
ti faptul că în aparen
ț
ă are un rol folositor. O motiva
ț
ie accesibilă s

ar referi la faptul că un astfel de sistem AI oferă persoanelor paralizate sau care suferă de alte boli

ce le afectează abilitatea de a se mi
ș
ca sau de a comunica posibilitatea să trăiască dincolo de

defectele lor fizice. Astfel, scopul pare să fie unul nobil
ș
i eficient, dar după cum am zis
ș
i

anterior, traiul într-o astfel de lume se află constant sub semnul incertitudinii
ș
i poate suferi

oricând un colaps iremediabil.

Apoi,
alt
principiu
se
referă
la
faptul
că
aplica
ț
iile
AI
trebuie
să
fie
lipsite
de
riscuri
pentru

utilizatori.
Totu
ș
i,
consid er
că
este
foarte
dificil
să
protejezi
o
asemenea
lume
a
con
ș
tiin
ț
elor.
Spre

exemplu,
San
Junipero
se
poate
confrunta
cu
o
mul
ț
ime
de
riscuri.
Dacă
este
incendiată
clădirea

în
care
se
află
toate
dispozitivele
de
stocare?
Dacă
apare
o
eroare
în
sistem
care
să
ș
teargă
tot?
Ar

însemna
să
anuleze
zeci
sau
chiar
mii
de
con
ș
tiin
ț
e.
Ca
atare,
orice
risc
trebuie
înlăturat
când
vine

vorba de o miză atât de mare.

În
consecin
ț
ă,
sunt
foarte
multe
aspecte
de
analizat
în
privin
ț
a
ideii
de
a
stoca
con
ș
tiin
ț
ele

oamenilor
într-un
dispozitiv
virtual.
Totu
ș
i,
este
cert
că
oamenii
trebuie
să
aibă
o
doză
de

reticen
ț
ă
în
fa
ț
a
acestei
posibilită
ț
i
de
evadare
din
lumea
reală.
Ce-i
drept,
prezentul
este
deseori

dezamăgitor,
dar
î
ț
i
perm ite
să
sim
ț
i,
să
trăie
ș
ti
ș
i
î
ț
i
garantează
libertatea
con
ș
tiin
ț
ei.
Un
univers

virtual,
în
schimb,
nu
î
ț
i
poate
oferi
în
mod
sigur
toate
aceste
aspecte,
aspecte
care,
în
fond,

compun
esen
ț
a
umană.
Dar,
cum
am
zis,
viitorul
este
plin
de
surprize
ș
i
trebuie
să
fim
deschi
ș
i
la

orice
idei
mai
ales
când
ț
in
de
evolu
ț
ia
tehnologiei.
Cine
ș
tie?
Poate
peste
câ
ț
iva
ani…sau

secole…sau
milenii
vom
privi
cu
to
ț
i
apusul,
stând
ferici
ț
i
pe
plaja
din
San
Junipero,
gândindu-ne

la ce am fost, la ce suntem
ș
i la ce am putea fi.