Citim zilnic despre noile tehnologii care integreaza Inteligenta Artificiala (IA), dar unii cercetatori se intreaba de ce au oamenii spaime in fata noii realitati in care cibernetica pare sa ne forteze sa traim blocati intr-o lume gen Matrix, un fel de baterii umane. Am scris in mai multe randuri despre Cea de-a 4-a Revolutie Industriala, cea care defineste dezvoltarea tehnologiilor in jurul Internetului prin intermediul IA si care va schimba radical in deceniile urmatoare, modelul nostru actual de viata, de organizare sociala, de guvernare, de afaceri. Sute de studii si mii de articole pe aceasta tema sunt postate pe Internet.
Unul dintre acestea a aparut in versiunea britanica a sitului The Conversation sub semnatura lui Arend Hintze, profesor asistent de Biologie integrata, inginerie si IA de la Universitatea statului Michigan. El se intreaba daca nu cumva, nevinovatele figurine virtuale pe care le-a creat in timp, au devenit acum un soi de „monstri ai viitorului”, sau daca nu cumva el insusi a devenit un „distrugator al planetei”, dupa cum se plangea Oppenheimer dupa construirea primei bombe nucleare. Are motive omenirea sa se teama de Inteligenta Artificiala?
Erorile sistemelor
Cand vorbim despre robotii inteligenti nu putem evita analogia cu celebrul HAL9000 imaginat de scriitorul si omul de stiinta Arthur C. Clarke si adus pe ecran de regizorul Stanley Kubrik in filmul 2001: Odiseea spatiala din 1968. HAL este exemplul a ceea ce se poate intampla atunci cand sistemul esueaza, cu consecinte imprevizibile.
Ca si in cazul altor sisteme complexe, cum au fost RMS Titanic, navetele spatiale ale NASA, reactorul nuclear de la Cernobil, constructorii au stiut de fiecare data cum functioneaza componentele individuale, dar nu au stiut suficient de bine cum functioneaza ele impreuna, in cadrul unor variabile complexe. Asadar, atunci cand nu sunt perfect cunoscute, sistemele pot esua in modalitati impredictibile. Din micile erori individuale au aparut erorile catastrofale.
In aceeasi capcana poate aluneca si cercetarea in domeniul Inteligentei Artificiale. „Analizam ultima cercetare din domeniul stiintei cognitive, o traducem intr-un algoritm si o adaugam unui sistem existent. Incercam apoi sa construim tehnologie IA fara sa intelegem mai intai procesul de cunoastere”, spune Arend Hintze. Sa luam exemplul sistemelor inteligente Watson, creat de IBM sau Alpha, de la Google, dotate cu retele neuronale artificiale, cu puteri de calcul extrem de puternice.
Daca aceste supercomputere fac erori de calcul, ele ar pierde meciuri in compania campionilor din programul de televiziune Jeopardy! sau ar fi invinse de un maestru de Go. Dar in cazul in care tehnologia IA ar deveni si mai complexa si puterea supercomputerelor s-ar mari exponential, atunci erorile neintentionate (nu vorbim despre cele intentionate) ar putea avea consecinte catastrofale. „Si asta pentru ca este aproape imposibil sa se construiasca sisteme cu adevarat sigure”, adauga Arend Hintze.
Pasi spre masinile ganditoare
Folosind o abordare neuroevolutiva, cercetatorul Arend Hintze a reusit sa creeze medii virtuale populate cu creaturi digitale cu un creier care sa rezolve actiuni tot mai complexe. Performanta acestor creaturi este permanent evaluata, cele mai bune rezultate fiind apoi selectate pentru reproducere, creand generatii ulterioare. Dupa mai multe generatii, aceste creaturi-masini vor dezvolta chiar si abilitati cognitive.
„Ne aflam in faza de inceput a crearii acestor masini care pot efectua actiuni simple de navigatie, care pot lua cateva decizii simple sau isi pot aminti cativa biti de informatie”, spune Arend Hintze, „dar in curand vom dezvolta masini care sa execute o multime de sarcini, tot mai complexe, cu o inteligenta mult mai buna. In final vrem sa ajungem la masini inzestrate cu o inteligenta la nivelul celei umane”.
Etica sistemelor inteligente
O alta preocupare a inginerilor din domeniul IA pentru viitoarele creaturi-masini este folosirea evolutiei pentru a influenta etica sistemelor cu IA, dupa modelul uman, cum ar fi increderea si altruismul. Evident, ambele sunt rezultatul evolutiei omului, numai ca de-a lungul milioanelor de ani. Problema e ca reusitele in cazul masinilor sunt limitate din pricina faptului ca evolutia, in cazul lor, se rezuma la doar cativa ani!
Cum se reuseste acest lucru in cazul masinilor inteligente? „Vom realiza medii virtuale in care sa le oferim avantaje evolutive masinilor care demonstreaza bunatate, onestitate si empatie, pentru a fi siguri ca vor fi companioni de incredere si nu roboti ucigasi”. „Ca fiinta morala si politica, trebuie sa iau in calcul potentialele implicatii ale muncii mele si potentialelor efecte asupra societatii”, recunoaste Arend Hintze.
Deocamdata, insa, nici cercetatorii si nici societatea nu au o idee clara despre ce se doreste sa faca sau sa devina Inteligenta Artificiala. Deocamdata oamenii se tem de robotii care vor periclita locurile de munca, si asta ca exista azi roboti care fac munci fizice (in domeniul industriei auto), dar in viitor acestia vor executa si sarcini cognitive, despre care azi credem ca sunt exclusiv umane, cum ar fi masinile fara sofer si avioanele fara pilot sau robotii medici. Spaima cea mai mare, pentru creatori si cetateni, poate veni din faptul ca, in viitor, toate activitatile umane vor putea fi preluate de robotii inteligenti.
Scenariul de cosmar
In fine, spaima ultima, intruchipata de HAL9000 acum aproape 40 de ani, ar fi aceasta: ce se va intampla daca aceste sisteme superinteligente, dezvoltate pana la nivelul de a depasi inteligenta umana, ar putea sa nu mai aiba nevoie de oameni? „Cum ne-am putea justifica existenta in fata unei masini superinteligente artificiale care poate face lucruri pe care fiintele umane nu le-ar putea face niciodata?
Putem evita posibilitatea de a fi stersi de pe fata Pamantului de masinile pe care noi le-am creat?” se intreaba creatorul masinilor inteligente. Norocul e ca acest scenariu catastrofal poate sa mai astepte, avem timp sa indreptam lucrurile „intre 50 si 250 de ani, in functie de cat de repede se va dezvolta IA” este de parere Arend Hintze. O solutie, insa, vine tot de la HAL9000: putem „ucide” masinile superinteligente scotandu-le pur si simplu din priza! Omenirea poate fi salvata.
GEORGE CUSNARENCU
Comentarii