Elon Musk este implicat in proiecte tehnologice de mare anvergura, cum ar fi racheta reutilizabila SpaceX (proiect care functioneaza deja cu succes), automobilul autonom, fara sofer, Tesla (inca in testari) sau tunelul pentru transportul urban de sub Los Angeles. E un om care utilizeaza Inteligenta Artificiala (IA), cel putin in cazul automobilului electric autonom Tesla, dar care nu vede deloc cu ochi buni dezvoltarea necontrolata a tehnologiilor care folosesc IA.
El crede ca, in viitorul apropiat omenirea s-ar putea confrunta cu pericolul reprezentat de o dictatura a inteligentei artificiale. Viziunea lui, cu un pronuntat caracter distopic, pare inspirata dintr-o creatie imaginara veche de exact o jumatate de secol, si anume de filmul 2001: Odiseea spatiala, dupa scenariul scris de un om de stiinta, Arthur C. Clarke, si regizat de Stanley Kubrik in 1968. Viziunea lui Clarke pentru anul 2000 era ca oamenii vor calatori prin galaxii, in nave speciale, coordonate de un computer neuronal, necesar desfasurarii cu succes a calatoriei.
Toate bune si frumoase la inceput, HAL9000 este inteligenta artificiala indispensabila, numai ca inspre final, fiind in posesia tuturor datelor legate nu doar de zbor ci si de activitatea celor de la bordul navei, el preia fraiele misiunii si se intoarce impotriva oamenilor, practic a celor care l-au conceput. Solutia de a evita anomalia este data tot de Clarke: distrugerea circuitelor neuronale ale robotului HAL9000! Dar viitorul este salvat? Fara HAL9000, misiunea este sortita esecului. Aceasta este dilema pe care o propune Clarke: construim roboti superinteligenti, foarte bine, dar apare pericolul preluarii controlului acestora asupra oamenilor; distrugem robotii, e bine, dar punem in pericol omenirea.
Elon Musk preia ideea pericolului ca intr-un viitor nu prea indepartat creatiile cercetatorilor din Silicon Valley sa se intoarca impotriva creatorilor, ceea ce va conduce, spune el, la aparitia unei supraputeri digitale, practic un dictator digital care ar avea acces la toate informatiile planetei. Un astfel de sistem IA, capabil de miliarde de calcule intr-o fractiune de secunda, va controla economia globala si sistemele militare cu un nivel de autonomie incredibil. Si, mai crede Musk, un asemenea dictator digital super-potent si omniprezent va fi si nemuritor. Solutia?
Colonizarea planetelor
In urma cu cativa ani, intr-o cantina a fabricii din Los Angeles care produce rachetele SpaceX, s-au intalnit doi dintre cei mai puternici si interesanti oameni din Valea Siliciului care nu locuiesc acolo: Elon Musk si Demis Hassabis, cofondatorul misteriosului laborator londonez DeepMind. Cu acel prilej, Musk i-a marturisit interlocutorului sau ca misiunea ultima a rachetei SpaceX este colonizarea interplanetara.
Hassabis i-a raspuns ca el insusi lucra la cel mai important proiect din lume: dezvoltarea super-inteligentei artificiale. Musk a adaugat ca acesta este motivul pentru care trebuie sa colonizam planeta Marte: posibilitatea de evadare in caz ca IA o ia razna si se intoarce impotriva umanitatii. Amuzat, Hassabis i-a spus ca IA va urma pur si simplu oamenii spre Marte. O asemenea afirmatie n-a avut darul sa-l linisteasca pe Musk, mai ales ca existau si scenarii in care robotii super-inteligenti sa nu-i urmeze pe oameni spre Marte!
Poate ca acea discutie l-a convins pe Elon Musk sa porneasca cruciada impotriva IA, detaliind pericolele.
„Ne indreptam rapid spre aparitia unei superinteligente artificiale care va depasi cu mult orice inteligenta umana”, spunea apostolul Musk intr-un recent documentar despre inteligenta artificiala intitulat „Do You Trust This Computer?” (Ai incredere in acest calculator?).
„Daca o companie sau un grup mic de oameni reuseste sa dezvolte o superinteligenta artificiala, ar putea prelua controlul asupra intregii lumi”, prezicea el, si aici pe buna dreptate.
Musk face si o comparatie intre sistemul de societate de azi si un dictator digital fara scrupule: „Daca un astfel de sistem IA va avea un obiectiv si va considera ca omenirea se afla intre el si acest obiectiv, atunci va distruge intreaga omenire fara sa se gandeasca de doua ori la asta. Fara suparare. Este ca si cand noi, oamenii, am construi un drum, iar un musuroi de furnici se afla in calea acestui drum. Noi nu uram furnicile si nu facem altceva decat sa construim un drum. Asa ca, adio, musuroi”, a argumentat Musk.
Exact asa erau descrise si actiunile lui HAL9000: cand oamenii s-au interpus intre inteligenta si obiectivele lui (corecte, ca si construirea unui drum), atunci a actionat in consecinta, intentionand sa distruga oamenii (musuroiul). Fara suparare sau resentimente.
Cam asta spune si Shane Legg de la DeepMind: „Cred ca disparitia civilizatiei umane se va intampla cu siguranta, iar tehnologia va juca probabil un rol in asta”.
Desi e desprins dintr-un vechi s.f., scenariul pare plauzibil, cu observatia ca la momentul actual suntem in faza de inceput, cand robotul super inteligent e „baiatul bun” care aduna date la nivel planetar, in scopuri pozitive, cum ar fi calatoria oamenilor spre Marte. Partea neagra ar urma in cateva decenii, atunci cand obiectivele robotului super inteligent nu ar mai coincide cu cele ale oamenilor.
In continuarea acestor scenarii negre, dar plauzibile, ne putem imagina ca ideea lui Clarke din finalul filmului 2001: Odiseea spatiala, uciderea lui HAL9000, care ar duce totusi la disparitia omenirii, ar putea avea si o alta varianta: ca noi oamenii sa devenim pana atunci niste HAL9000!
Sfarsitul filmului!
GEORGE CUSNARENCU
Comentarii