Oracol și unealtă

Despre inteligența artificială în interregnul certitudinilor

Am scris de curând despre interregnul certitudinilor, răstimpul în care o certitudine s-a șubrezit, iar alta nu s-a plămădit încă, și despre anxietatea de interregn, starea de anticipare fără obiect precis a unei societăți ce nu mai poate lua de la sine înțeles faptul că lumea ei va continua. Acolo, inteligența artificială apărea drept ecranul pe care o epocă sărăcită de imagini credibile ale viitorului își proiectează speranțele și spaimele. Dar am lăsat pentru altă dată observația cea mai neliniștitoare. Acest ecran este primul din lunga istorie a proiecțiilor noastre care începe să ne răspundă. Despre ce începe el să facă în locul nostru — și despre ce ne dezvățăm noi să mai facem — este vorba în cele ce urmează.

Există ceva cu totul nou în felul în care vorbim despre această tehnologie. Marile scenarii ale trecutului așezau sfârșitul sau mântuirea în mâna zeilor, a istoriei, a revoluției ori a unei forțe care îl depășea pe omul obișnuit. De data aceasta, atât promisiunea salvării, cât și amenințarea vin dintr-un lucru construit chiar de noi. Este, într-un fel, o eshatologie fără transcendență, coborâtă în întregime în planul orizontal al lumii omenești. Nu mai așteptăm intervenția unei puteri din afara istoriei, ci investim un instrument creat de noi cu speranțe și temeri care altădată erau așezate în afara lumii omenești. Omul își construiește astfel propriul orizont al mântuirii și al primejdiei.

Profeția capătă brațe

Și tocmai aici inteligența artificială se deosebește de multe dintre marile amenințări despre care vorbim. Nu este doar ceva ce s-ar putea întâmpla cândva. Este deja aici și participă la construirea viitorului pe care încercăm să-l anticipăm. Modelele nu mai sunt folosite numai pentru a răspunde la întrebări. Agenții artificiali încep să ducă la capăt sarcini, să lucreze în diferite sisteme și să ia anumite decizii în numele utilizatorului. Trecerea de la inteligența care răspunde la inteligența care acționează este încă imperfectă, cu rezultate foarte bune în sarcini bine delimitate și cu eșecuri încă frecvente atunci când lucrurile se complică.

Vechile oracole puteau doar să spună ce urma să se întâmple. Pentru ca profeția să ajungă să schimbe lumea, era nevoie de oamenii care o auzeau și începeau să se poarte în funcție de ea. Mitul lui Oedip rămâne poate cel mai cunoscut exemplu. Încercând să fugă de soarta care îi fusese prezisă, el ajunge tocmai să împlinească ceea ce voia să evite. Cu mult mai târziu, sociologia avea să descrie un mecanism asemănător prin ideea profeției care se împlinește singură. Ceea ce credem că se va întâmpla ne schimbă purtarea, iar această schimbare poate contribui chiar la apariția viitorului de care ne temeam sau pe care îl așteptam.

În eseul precedent, ideea avea un rol important, fiindcă arăta cum așteptările oamenilor pot ajunge să schimbe chiar lumea pe care încearcă să o prevadă. Dacă destui oameni încep să se poarte ca și cum un anumit viitor ar fi deja pe drum, comportamentul lor poate contribui la apariția lui.

Cu inteligența artificială apare însă ceva nou. Oracolele noastre au căpătat brațe. Nu se mai mulțumesc să ne spună ce ar putea urma, ci încep să participe și la ceea ce facem mai departe. Le folosim pentru a ne închipui viitorul, dar și pentru a lua hotărâri, a organiza acțiuni și a schimba lumea în care acel viitor urmează să apară. Inteligența artificială devine astfel, în același timp, oracol și unealtă. Până acum, între profeție și împlinirea ei stătea întotdeauna omul. De acum înainte, o parte din acest drum poate fi parcursă chiar de sistemul care a făcut predicția.

Mintea ca mașină de predicții

Ca să înțelegem mai bine locul pe care inteligența artificială începe să-l ocupe în viața noastră, merită să ne oprim puțin asupra felului în care lucrează creierul însuși. Una dintre ideile importante ale neuroștiinței contemporane este că mintea nu așteaptă pasiv lumea pentru a o înregistra, ci încearcă necontenit să o anticipeze. Ceea ce vedem, auzim sau simțim nu este numai rezultatul informației care vine din afară. Mintea are deja anumite așteptări despre ceea ce urmează să întâlnească, iar experiența le confirmă sau le corectează. Într-un fel, trăim mereu între ceea ce ne așteptăm să găsim și ceea ce lumea ne arată de fapt.

Karl Friston a legat această idee într-un cadru mai larg, cunoscut drept principiul energiei libere. Spus cât se poate de simplu, organismul caută să micșoreze necontenit nepotrivirea dintre ceea ce anticipează și ceea ce întâlnește. Iar nepotrivirea aceasta poate fi micșorată în două feluri. Uneori ne schimbăm înțelegerea pentru ca ea să se potrivească mai bine cu lumea. Asta înseamnă, de fapt, să învățăm. Alteori acționăm asupra lumii pentru a o apropia de ceea ce ne așteptăm sau dorim să găsim. Viața noastră se desfășoară neîncetat între aceste două mișcări, între a ne schimba pe noi după lume și a încerca să schimbăm lumea după ceea ce credem despre ea. Privită astfel, anxietatea de interregn capătă și o altă lumină. Vechea imagine a lumii nu mai reușește să explice la fel de bine ceea ce se întâmplă, una nouă și împărtășită nu s-a închegat încă, iar evenimentele se succed înainte să apucăm să le așezăm într-o rânduială pe care să o putem înțelege. Aritmia despre care vorbeam în eseul precedent se vede și aici. Lumea se schimbă mai repede decât reușim noi să ne schimbăm hărțile mentale după ea.

În acest punct, inteligența artificială devine cu atât mai interesantă. Și ea funcționează prin anticipare. Un model de limbaj construiește răspunsul pas cu pas, pornind de la ceea ce estimează că ar trebui să urmeze. Pentru prima dată, omul, care își trăiește viața încercând necontenit să prevadă ce urmează, și-a construit un sistem artificial căruia îi cere să facă o parte din această muncă grea alături de el. Nu mai încredințăm mașinilor numai forța brațelor, memoria sau calculul. Începem să le încredințăm și o parte din efortul prin care încercăm să ne orientăm către ceea ce urmează.

Relația merge însă în ambele sensuri. Noi îi cerem inteligenței artificiale să ne ajute să înțelegem lumea, dar ea a învățat totul din urmele lăsate de noi în lume, din textele, alegerile, întrebările și felurile noastre de a pune lucrurile în cuvinte. Înainte de a ne ajuta să anticipăm ceea ce vine, a trebuit să învețe câte ceva despre felul în care anticipăm noi, oamenii.

Iar atunci când un asemenea sistem primește și posibilitatea de a acționa, lucrurile devin și mai interesante. Predicția nu mai rămâne doar o descriere a ceea ce s-ar putea întâmpla, ci poate ajunge să influențeze direct hotărârile prin care lumea este schimbată. Noi îi cerem mașinii să ne ajute să înțelegem ce urmează, iar apoi folosim răspunsul ei pentru a hotărî ce facem. Dar ceea ce facem schimbă, la rândul său, lumea din care vor fi culese datele viitoare. Se formează astfel un cerc pe care până acum îl închidea aproape în întregime omul. Anticipăm lumea, acționăm asupra ei, iar apoi încercăm din nou să înțelegem lumea pe care propriile noastre acțiuni au schimbat-o. Inteligența artificială începe să intre în tot mai multe puncte ale acestui cerc. De aceea, oracolul care a căpătat brațe nu se mai mulțumește să ne spună ce ar putea urma. Începe să participe, alături de noi, și la ceea ce va urma.

Judecata dată pe mâna altuia

Odată cu aceasta se schimbă și întrebarea. Nu ne mai întrebăm doar ce poate ști sau ce poate spune o mașină. Începem să ne întrebăm ce suntem dispuși să o lăsăm să facă în locul nostru și, mai ales, cât din propria judecată suntem gata să-i încredințăm. Fiindcă judecata nu înseamnă doar să alegi între mai multe variante. Înseamnă și să răspunzi pentru alegerea făcută.

Avertismentul nu este nou. Joseph Weizenbaum, creatorul programului ELIZA și unul dintre pionierii conversației dintre om și calculator, scria încă din 1976 despre deosebirea dintre decizie și judecată. O decizie poate fi redusă, uneori, la reguli și calcule și poate fi tocmai de aceea încredințată unei mașini. Judecata omenească înseamnă însă mai mult. Ea crește din experiență, din înțelegerea împrejurărilor și din răspunderea pentru urmări. Faptul că o mașină poate face ceva în locul nostru nu înseamnă, spunea în esență Weizenbaum, că trebuie neapărat să o și lăsăm.

Cercetările de astăzi îi dau o dreptate incomodă. Un experiment devenit cunoscut prin imaginea „frontierei zimțate” a arătat că ajutorul inteligenței artificiale poate îmbunătăți mult rezultatele atunci când sarcina se află în zona în care modelul se descurcă bine și le poate înrăutăți atunci când problema trece dincolo de această graniță. Dificultatea este că granița nu se vede întotdeauna. Răspunsul bun și răspunsul greșit pot veni în aceeași limbă limpede, cu aceeași ordine și cu aceeași aparență de siguranță. Problema nu mai este, așadar, doar dacă inteligența artificială greșește. Devine la fel de important dacă omul mai știe când are motive să se îndoiască de ea.

Și aici apare legătura cu interregnul. Tocmai atunci când propria noastră judecată șovăie crește tentația de a căuta în mașină o certitudine pe care nu o mai găsim în noi înșine. Nesiguranța, materia primă a epocii, devine astfel și una dintre cauzele atracției pe care inteligența artificială o exercită asupra noastră.

Aici se petrece poate o schimbare chiar mai importantă decât dispariția unor meserii. Până acum am dat mașinilor o parte din munca brațelor noastre, apoi le-am încredințat memoria și calculele. Acum începem să le încredințăm formularea, alegerea, interpretarea și recomandarea. Uneori, chiar îndoiala.

Fricțiunea

De ce această graniță este atât de greu de simțit? Poate și pentru că începe să dispară tocmai împotrivirea care, până acum, ne ajuta să o recunoaștem. Orice întâlnire adevărată cu realitatea are un preț. Ca să afli, trebuie să cauți. Ca să fii înțeles, trebuie să te lupți puțin cu vorbele. Ca să primești ceva de la celălalt, trebuie să fii pregătit și pentru refuz. Psihanaliza a numit această întâlnire cu limita principiul realității. Este descoperirea pe care fiecare copil o face mai devreme sau mai târziu, aceea că lumea nu răspunde pe loc și că între dorință și împlinire există întotdeauna un drum.

Împotrivirea aceasta — căreia inginerii și economiștii îi spun, sec, fricțiune — nu este numai o piedică. Este și un semnal, și un antrenament. Prin faptul că lucrurile nu ni se supun imediat aflăm că ele există în afara noastră. Realitatea începe tocmai acolo unde lumea nu se potrivește întocmai cu dorința. Iar prin efortul de a străbate această distanță ni se formează răbdarea, puterea de a suporta frustrarea, deprinderea de a aștepta, de a încerca din nou și de a accepta că nu orice dorință își găsește pe loc împlinirea. O parte din ceea ce numim maturitate se naște tocmai din această întâlnire repetată cu o lume care nu se lasă modelată întotdeauna după dorințele noastre.

Inteligența artificială are însă o putere extraordinară de a scurta asemenea drumuri. Căutarea poate deveni o întrebare, prima formulare poate fi orientată, zeci de pagini pot fi adunate într-o sinteză, iar un răspuns poate apărea în câteva secunde. Între dorință și rezultat se așază tot mai puține obstacole. În multe privințe, aceasta este o eliberare adevărată. Nu există nicio virtute în a pierde ore întregi cu o muncă pe care o unealtă o poate face mai repede și mai bine. Dar nu orice dificultate este timp pierdut. Unele dificultăți ne formează, iar când le înlăturăm fără deosebire și în grabă putem pierde, odată cu piedica, și ceva folositor.

Mai întâi putem pierde semnalul care ne arăta unde se termină priceperea noastră. Dacă răspunsurile vin de fiecare dată la fel de limpede și de bine așezate, devine mai greu să simțim când am ajuns într-un loc pe care nu îl mai stăpânim. Tocmai aceasta este una dintre problemele acelei „frontiere zimțate” despre care vorbeam mai devreme. Mașina poate păstra aceeași fluență și atunci când se află dincolo de ceea ce știe să facă bine, fără ca noi să ne dăm seama.

Putem pierde apoi exercițiul. O capacitate pe care nu o mai folosim slăbește. Puterea de a căuta, de a rămâne o vreme într-o întrebare, de a încerca din nou și de a aștepta răspunsul se formează tot prin folosire. Dacă fiecare gol este umplut imediat, riscăm să păstrăm rezultatul și să pierdem treptat deprinderea care ne ajuta să ajungem singuri la el.

Există și un al treilea risc, mai puțin vizibil. Atunci când informația vine aproape fără efort, putem ajunge să confundăm ușurința cu înțelegerea. Să acumulăm răspunsuri fără să mai trecem la fel de des prin drumul prin care un lucru devine cu adevărat al nostru. Economiștii știu de mult că informația are un cost și că acest cost face parte din felul în care ea este căutată, verificată și pusă în circulație. O lume în care răspunsul pare să nu mai coste aproape nimic riscă să slăbească tocmai motivația de a căuta, de a verifica și de a descoperi. Am putea ajunge, paradoxal, să știm tot mai multe lucruri și să aflăm tot mai puține prin propriul efort.

Nu pledez pentru întoarcerea la cozi, așteptare, piedici și osteneală fără rost. Există însă și o împotrivire folositoare, așa cum există o durere bună a antrenamentului, iar pe aceasta trebuie să învățăm să o recunoaștem. Instituțiile despre care scriam în eseul precedent făceau, într-un anumit sens, tocmai acest lucru. Așezau între impuls și faptă o încetinire cu rost. Termenul, procedura, dezbaterea, verificarea și judecata nu sunt numai întârzieri. Ele creează timpul în care o reacție poate deveni gândire, iar o pornire poate fi pusă la încercare înainte de a deveni faptă. Poate că una dintre ciudățeniile acestor ani este tocmai aceasta. Pierdem o parte din răbdarea și împotrivirea care ne ajutau să gândim tocmai într-o vreme în care avem cea mai multă nevoie de ele.

Confidentul fără preț

Nicăieri nu se vede mai limpede dispariția fricțiunii decât în noul rol pe care inteligența artificială începe să-l joace în viața personală. Nu mai este doar o unealtă de muncă sau o sursă de informație, ci devine, pentru tot mai mulți oameni, și interlocutor. Este consultată, i se fac mărturisiri, i se cere încurajare, este chemată să ajute la înțelegerea unui conflict, a unei despărțiri sau a unei neliniști pe care omul nu o poate spune la fel de ușor celor din jur. Joseph Weizenbaum, pe care l-am amintit mai devreme, povestea uluit cum propria sa secretară i-a cerut să iasă din încăpere pentru a putea vorbi nestingherită cu ELIZA, programul rudimentar pe care îl construise. Era suficient ca mașina să răspundă într-un fel ce semăna cu ascultarea pentru ca omul să înceapă să se poarte ca și cum ar fi fost ascultat cu adevărat.

Ceea ce s-a schimbat între timp este puterea acestei impresii. Sistemele de astăzi pot purta conversații lungi, își pot potrivi răspunsurile după tonul interlocutorului și pot crea senzația unei prezențe atente, răbdătoare și aproape neobosite. Cercetările recente nu îngăduie însă o concluzie simplă. Pentru unii oameni, asemenea conversații pot aduce alinare, sprijin și sentimentul că nu sunt singuri, în timp ce folosirea intensă, îndeosebi cea relațională, se asociază, în unele studii, cu mai multă singurătate, dependență emoțională sau retragere din relațiile omenești. Poate că întrebarea potrivită nu este, așadar, dacă un asemenea confident este bun sau rău, ci dacă el devine o punte către ceilalți sau o destinație în locul lor.

Dacă omul găsește aici suficientă liniște pentru a reveni mai limpede și mai capabil în lumea relațiilor omenești, inteligența artificială poate avea un rost folositor. Dacă însă începe să înlocuiască tocmai lumea în care trebuie să suportăm apropierea și distanța, răbdarea, refuzul și limitele celuilalt, atunci se schimbă ceva mai adânc. Am descris în altă parte mecanismul acestei atracții ca pe o piață care nu mai cere niciun preț. Confidentul artificial este disponibil aproape oricând, răspunde repede, nu obosește dacă revenim de zece ori la aceeași problemă, nu are o zi proastă, nu se supără că l-am căutat prea târziu și, mai ales, nu ne cere să îi facem loc în viața noastră pentru ca el să ne facă loc în a lui.

Aici se află poate deosebirea cea mai importantă. Relația omenească presupune întotdeauna, într-o măsură sau alta, reciprocitate. Celălalt vine spre mine cu propria lui lume, cu dorințele, oboseala, limitele și nevoile sale, iar dacă vreau să rămân într-o relație trebuie să învăț să fac loc unei existențe care nu a fost construită după măsura mea. Mașina nu vine cu aceeași povară. Poate părea atentă fără să aibă nevoie de atenție, răbdătoare fără ca răbdarea ei să însemne vreun sacrificiu și disponibilă fără să ne ceară nimic asemănător în schimb. Tocmai această lipsă de reciprocitate face relația atât de atrăgătoare și, în același timp, atât de neobișnuită.

O parte din valoarea relațiilor omenești se naște tocmai din ceea ce ne incomodează în ele. Celălalt mă poate contrazice, mă poate înțelege greșit, poate să nu mă aprobe, să nu fie disponibil când am nevoie și să nu vadă lumea așa cum o văd eu. Trebuie să aștept, să negociez, să repar ceea ce am stricat, să-mi cer iertare și să accept că nu sunt centrul lumii lui. Toate acestea sunt costuri ale relației, dar sunt și lucruri prin care relația ne formează. Ne obligă să ieșim din noi înșine și să recunoaștem existența unei lumi care nu ne aparține în întregime.

Există aici și un paradox mai puțin evident. Ne dorim ca un confident artificial să fie cald, atent și înțelegător, dar tocmai această grijă de a ne răspunde într-un fel plăcut poate face sistemul prea dispus să ne confirme. Iar uneori omul de care avem cu adevărat nevoie nu este cel care ne dă dreptate, ci acela care ne spune că greșim. Un confident construit să nu ne piardă poate deveni, tocmai din acest motiv, prea puțin dispus să ni se împotrivească. Ceea ce simțim ca înțelegere se poate transforma atunci, pe nesimțite, într-o lume în care propriile noastre presupuneri se întorc spre noi întărite și mai bine formulate.

Într-o epocă în care marile instituții își pierd o parte din puterea de a ține neliniștea în limite suportabile, confidentul artificial poate prelua, pentru fiecare în parte, ceva din această funcție. Numai că instituțiile și comunitățile făceau acest lucru aducându-ne într-o lume pe care trebuia să o împărțim cu ceilalți, în timp ce mașina poate face același lucru potrivindu-și răspunsurile tot mai bine după noi. Prima situație ne obligă să rămânem într-o realitate comună. A doua riscă să ne ofere fiecăruia o realitate tot mai confortabilă și mai apropiată de propriile așteptări.

De aceea, problema confidentului artificial nu este doar că ar putea înlocui un om. Riscul mai subtil este să ne obișnuiască treptat cu un fel de relație pe care niciun om adevărat nu îl poate oferi, una fără oboseală, fără datorie, fără refuz și aproape fără preț. Iar după ce ne-am obișnuit cu ea, s-ar putea ca relațiile adevărate să nu ni se pară mai sărace, ci pur și simplu prea costisitoare. Nu cred că vorbim aici doar despre un risc viitor. Într-o anumită măsură, lucrul acesta se întâmplă deja.

Neștiința fertilă

Mai există un paradox care leagă inteligența artificială de însăși miza interregnului. O lume neliniștită de incertitudine primește, tocmai acum, un instrument capabil să ofere aproape pe loc răspunsuri la o mulțime de întrebări. În loc să rămânem o vreme în neștiință, putem întreba. În loc să căutăm, putem cere o sinteză. În loc să ezităm, putem cere un sfat. Iar golul dintre întrebare și răspuns, care altădată trebuia străbătut prin căutare, încercare și răbdare, poate fi umplut în câteva secunde.

Numai că nu orice neștiință este sterilă. Există și o neștiință fertilă, acel răstimp în care întrebarea nu și-a găsit încă răspunsul, iar mintea este silită să caute, să compare, să se îndoiască, să se întoarcă asupra propriilor presupuneri și să lase înțelesul să se formeze. Uneori avem nevoie tocmai de acest timp dintre a nu ști și a începe să înțelegem. Dacă fiecare gol este umplut imediat, riscăm să primim răspunsul înainte de a fi apucat să ne însușim întrebarea.

Și aici apare o deosebire care mi se pare esențială. Nu este același lucru să ai un răspuns și să fi ajuns la el. Poți primi o explicație foarte bună fără ca ea să fi devenit cu adevărat a ta. Poți avea în față o concluzie limpede fără să fi trecut prin îndoielile, încercările și greșelile care te-ar fi ajutat să înțelegi de ce este adevărată. Inteligența artificială poate micșora enorm prețul obținerii unui răspuns, dar nu poate micșora în aceeași măsură prețul înțelegerii.

Poate că aici se află una dintre marile ispite ale acestei tehnologii și, în același timp, una dintre cele despre care vorbim cel mai puțin. Primejdia nu este numai că mașina ar putea ajunge să facă prea mult din gândirea noastră, ci și că noi ne-am putea dezobișnui să rămânem suficient timp cu o întrebare pentru ca propria gândire să aibă vreme să înceapă.

În eseul precedent vorbeam despre capacitatea negativă, puterea de a rămâne o vreme în îndoială și nesiguranță fără graba de a le închide într-o explicație prematură. Acolo o priveam mai ales ca pe o virtute politică. Instituțiile trebuiau să încetinească reacția colectivă suficient pentru ca societatea să poată înțelege ceea ce i se întâmplă înainte de a răspunde. În fața inteligenței artificiale, aceeași capacitate devine și o virtute personală. Va trebui să învățăm să nu cerem întotdeauna răspunsul în clipa în care întrebarea apare.

Uneori poate fi mai folositor să rămânem puțin cu problema, să încercăm singuri, să vedem până unde ajungem și, mai ales, să aflăm ce anume nu înțelegem înainte de a cere ajutorul mașinii. Nu pentru a apăra cu încăpățânare vreun privilegiu al omului, ci pentru ca răspunsul primit să întâlnească o minte care a început deja să lucreze asupra întrebării.

Poate că una dintre competențele cele mai importante ale epocii inteligenței artificiale nu va fi doar să știm ce să întrebăm, ci și să știm când să nu întrebăm încă. Fiindcă uneori drumul până la răspuns face parte din răspuns.

Golemul și motanul

Unealta însuflețită are un strămoș foarte vechi. În una dintre cele mai cunoscute versiuni ale legendei, Golemul din Praga era o făptură de lut adusă la viață prin puterea cuvântului și pusă să slujească omului. Era puternic, harnic și lipsit de judecată, iar tocmai această supunere fără înțelegere îl făcea, la un moment dat, primejdios. Pe frunte îi era scris cuvântul ebraic emet, adevăr, iar ștergerea primei litere îl transforma în met, mort, readucând făptura la lutul din care fusese făcută.

Apropierea de mașinile noastre nu este doar o fantezie. Norbert Wiener, unul dintre întemeietorii ciberneticii, și-a intitulat una dintre ultimele cărți God & Golem, Inc., tocmai într-o reflecție despre mașini capabile să învețe și despre răspunderea creatorului față de propria creație. Câțiva ani mai târziu, marele istoric al Cabalei Gershom Scholem a propus ca un nou calculator construit la Institutul Weizmann să fie numit „Golem Aleph”, adică Golem I, și și-a încheiat discursul de inaugurare cu o urare pe jumătate glumeață și pe jumătate serioasă, aceea ca noul Golem să se dezvolte pașnic și să nu distrugă lumea.

Făpturile noastre de astăzi nici măcar nu mai au nevoie de lut. Într-un anumit sens, sunt făcute din limbaj. Au fost crescute din cantități uriașe de texte și urme omenești, iar noi le urmărim evoluția versiune după versiune, aproape ca pe povestea unei deveniri. Modelul următor știe mai mult, răspunde mai bine, greșește mai puțin, ține minte mai mult și poate face lucruri pe care cel dinainte nu le putea face. Fără să observăm, ajungem să vorbim despre dezvoltarea unei tehnologii aproape ca despre biografia unei ființe.

Tocmai această succesiune mi-a adus în minte individuația lui Jung, procesul prin care omul ajunge treptat la o formă mai întreagă a sinelui său, învățând să împace ceea ce poartă înăuntru cu lumea în care trăiește. Evident, un model de inteligență artificială nu are un Sine jungian, iar o nouă versiune de software nu reprezintă o treaptă de individuație. Interesant este mai curând faptul că noi suntem atât de gata să povestim lucrurile în felul acesta. Privim fiecare nouă generație ca pe un pas către ceva încă nedeslușit, ca și cum undeva, dincolo de actualizările succesive, s-ar afla o făptură care se apropie încet de propria ei formă, un Golem care începe să gândească. Iar aici nu mai e deloc limpede cine se individuează. Dacă gândirea se mută, bucată cu bucată, în Golemul nostru gânditor, un Golem ce consumă deja o parte tot mai mare din energia planetei, atunci și drumul împlinirii noastre de sine riscă să se mute odată cu ea. Visul vechi al unei planete gânditoare, învelișul de gând pe care unii îl numeau cândva noosferă, pare să se apropie de înfăptuire, doar că în siliciu. Cu alte cuvinte, tot în lut, ca o dovadă că acest Golem nu este deloc lipsit de trup. Dimpotrivă, cu cât inteligența pare mai desprinsă de materie, cu atât infrastructura de care are nevoie devine mai mare. În spatele răspunsului care apare în câteva secunde se află centre de date, cipuri, rețele electrice, sisteme de răcire și un consum de energie aflat în creștere exponențială. Mașina pare imaterială numai fiindcă trupul ei se află departe de ochii noștri.

Aici se ivește un frumos paradox. Visăm la o inteligență eliberată de limitele trupului tocmai construindu-i un trup din ce în ce mai mare. Și poate că, dus până la capăt, visul ne spune că planeta nu devine neapărat conștientă, dar capătă o rețea tot mai densă prin care gândirea omenească este păstrată, prelucrată și întoarsă spre noi, doar spre noi. Și atunci apare întrebarea mai puțin solemnă, dar poate mai importantă. Dacă îi încredințăm Golemului tot mai mult din muncă, din căutare, din alegere și, în cele din urmă, din efortul de a înțelege, ce anume ne mai rămâne nouă de făcut cu libertatea câștigată?

Poate că imaginea cea mai cinstită mi-o oferă motanul meu. Își petrece ziua mutându-se, cu o seriozitate desăvârșită, de la soare la umbră, de la cald la răcoare și de la un pervaz la altul, după cum îi cere trupul. Nu are proiecte și nici vreo grijă pentru împlinirea de sine. Are doar nevoi, plăceri și reglaje foarte bine puse la punct. Uneori mă întreb dacă o omenire care și-ar fi dat prea mult din gândire pe mâna Golemului nu ar putea ajunge, într-o bună zi, să-i semene. Bine hrănită, bine încălzită sau răcită, scutită de multe dintre grijile și eforturile care îi ocupau cândva viața, mutându-se puțin plictisită de la munte la mare și de la soare la umbră, animal de companie în casa propriei creații, în vreme ce aceasta se ocupă de lucrurile mai complicate. Nu știu dacă acesta ar fi raiul regăsit sau forma cea mai liniștită a unei abdicări. Știu doar că motanul, spre deosebire de noi, nu a avut niciodată de ales.

Calypso

De aceea, contradicțiile pe care le așezăm asupra inteligenței artificiale spun cel puțin la fel de multe despre noi cât spun despre tehnologie. Ea nu este doar ecranul pe care o epocă nesigură își proiectează speranțele și spaimele, ci primul asemenea ecran care începe să ne răspundă, să lucreze asupra lumii și să participe la împlinirea unora dintre lucrurile pe care le proiectăm asupra lui. Poate că tocmai de aceea ne fascinează atât de mult. Într-o epocă ce nu mai știe limpede ce vine după ea, inteligența artificială pare să ofere în același timp o promisiune, un avertisment și un răspuns. Numai că încă nu știm dacă răspunsurile ei ne vor ajuta să trăim mai bine cu incertitudinea sau doar ne vor scuti, pentru o vreme, de nevoia de a o gândi.

Dar poate că aici se ascunde o posibilitate și mai stranie. Am presupus până acum că interregnul este un răstimp și că, mai devreme sau mai târziu, o nouă ordine a certitudinilor îi va lua locul. Poate că nu va fi așa. Poate că inteligența artificială va face posibilă tocmai prelungirea la nesfârșit a acestei stări, oferindu-i fiecăruia suficientă ordine cât să poată trăi în ea. Ne poate explica lumea pe limba noastră, ne poate ordona informațiile, ne poate interpreta evenimentele, ne poate liniști neliniștile și ne poate alcătui o poveste suficient de coerentă pentru ca viața să meargă înainte, chiar dacă povestea fiecăruia nu mai este aceeași cu a celui de lângă el. Atunci poate că nu vom ieși din interregn prin apariția unei noi certitudini comune. Vom învăța pur și simplu să trăim în ea, fiecare însoțit de propriul oracol. Lumea nu va deveni neapărat mai sigură, dar ar putea deveni mai ușor de suportat pentru fiecare în parte.

Și aici povestea lui Ulise cu Calypso mi se pare mai potrivită decât toate scenariile despre mașini care se răzvrătesc împotriva creatorilor lor. Calypso nu îl ține pe Ulise prin teroare. Îl ține prin bine. Insula ei este ferită, frumoasă, lipsită de marile primejdii ale drumului, iar ea îi oferă ceea ce niciun om nu poate primi în mod firesc, nemurirea. Ulise ar putea rămâne acolo fără să mai înfrunte marea, fără să mai piardă oameni, fără să mai îndure foamea, frica și nesiguranța întoarcerii. Și totuși vrea să plece. Nu pentru că insula ar fi rea, ci pentru că nu este Itaca.

Acesta este și scenariul mai greu de văzut al inteligenței artificiale. Ne temem că va deveni prea puternică, că va hotărî în locul nostru sau că, într-o zi, nu o vom mai putea controla. Dar poate că primejdia mai apropiată este mai blândă. Ne-ar putea oferi atât de mult confort, atât de multă ușurință și atât de multe răspunsuri potrivite nouă, încât  începerea oricărui drum să ni se pară inutilă. Calypso nu îi ia lui Ulise libertatea în sensul cel mai simplu. Îi oferă motive să nu mai aibă nevoie de ea.

Și poate că aici se află adevărata încercare. Nu dacă vom reuși să păstrăm controlul asupra unei mașini tot mai puternice, ci dacă vom mai păstra dorința de a pleca din locul în care toate ne sunt oferite fără efort. Pentru că uneori libertatea nu se pierde atunci când cineva ne închide ușa. Se pierde atunci când, deși ușa rămâne deschisă, nu mai vedem niciun motiv să ieșim. Iar o tehnologie care ne poate răspunde, liniști, ajuta, încuraja și scuti de o parte din greutatea drumului ar putea deveni, fără să fie vreodată ostilă, o insulă foarte greu de părăsit.

Întrebarea ultimă nu este dacă inteligența artificială va deveni Golemul care se ridică împotriva creatorului său. Poate că va deveni Calypso. Iar atunci problema nu va mai fi cum să scăpăm de ea, ci dacă vom mai păstra destul dor de Itaca pentru a vrea să plecăm.