În primăvara acestuia an am citit o serie de nuvele de Franz Kafka. Cred că nuvela „O dare de seamă pentru o academie” poate fi citită astăzi ca o cheie surprinzător de potrivită pentru felul în care oamenii reacționează la inteligența artificială. Nu pentru că Kafka ar fi anticipat chatboții sau calculatoarele, ci pentru că a înțeles ceva mai profund: omul este vulnerabil în fața imitării convingătoare a omenescului.
Când o entitate neumană vorbește ca noi, răspunde ca noi, adoptă gesturile noastre simbolice și intră în formele noastre instituționale de comunicare, tindem să-i atribuim mai mult decât vedem de fapt. Tindem să confundăm performanța cu viața interioară, comportamentul cu conștiința, fluența cu înțelegerea.
Despre ce este nuvela lui Kafka
„O dare de seamă pentru o academie” este una dintre cele mai frumoase texte scurte ale lui Kafka. Naratorul este Red Peter, o fostă maimuță capturată în Africa, rănită, transportată în Europa și închisă într-o cușcă. Pusă în fața unei situații fără ieșire, maimuța descoperă că singura cale de a scăpa de captivitate este să imite oamenii. Învață să bea, să fumeze, să salute, să vorbească și, în cele din urmă, ajunge să se adreseze unei academii. Nu ține o confesiune sentimentală, ci un raport. Nu cere compasiune, ci explică metoda adaptării sale.
Elementul esențial este că Red Peter nu devine om din dorință, ci din constrângere. El nu caută „libertatea”, în sens nobil, ci o ieșire. A învățat umanitatea ca tehnică de supraviețuire. Nu a primit o revelație, nu a avut o ascensiune spirituală, nu a trecut printr-o umanizare fericită. A deprins codurile speciei dominante pentru a nu rămâne prizonier.
Kafka construiește astfel o parabolă despre civilizație, dresaj, adaptare și despre felul în care instituțiile umane confundă ușor aparența integrării cu transformarea reală.
Când imitația devine dovadă
Red Peter este acceptat pentru că poate susține un discurs. El poate vorbi în limba academiei, poate oferi o narațiune coerentă despre propria devenire și poate apărea în fața oamenilor ca un caz de succes al umanizării. Dar tocmai aici se află ironia. Academia nu pare interesată de ceea ce este el în sine, de ceea ce a pierdut, de ceea ce a suferit sau de ceea ce nu poate fi tradus în limbaj omenesc. Academia vrea raportul. Vrea forma. Vrea dovada recognoscibilă.
Aceasta este, probabil, și una dintre marile slăbiciuni ale omului în fața IA. Oamenii sunt impresionați mai ales de semnele exterioare ale inteligenței: răspunsuri articulate, umor, politețe, capacitatea de a rezuma, de a argumenta, de a scrie poezie, de a face analogii, de a părea atentă la context. Când aceste semne sunt suficient de bine produse, mulți fac saltul de la „pare că înțelege” la „înțelege”, de la „răspunde ca o persoană” la „este, într-un anumit sens, o persoană”.
În nuvelă, Red Peter nu este validat pentru că oamenii ar avea acces la viața lui lăuntrică, ci pentru că el a învățat să producă formele exterioare ale omenescului. La fel, IA nu este percepută ca inteligentă doar pentru că rezolvă probleme, ci mai ales pentru că o face într-un limbaj familiar, social, aproape personal. Mașina nu se prezintă ca un mecanism rece, ci ca un interlocutor. Iar omul, format de milioane de ani de viață socială, reacționează la interlocutor înainte de a analiza mecanismul.
Programul ELIZA
Această vulnerabilitate nu a apărut odată cu modelele mari de limbaj. Ea este cunoscută încă din anii 60, odată cu ELIZA, programul creat de Joseph Weizenbaum la MIT. ELIZA putea simula, într-o formă foarte simplă, o conversație cu un psihoterapeut. Programul reformula întrebările utilizatorului, reflecta fragmente din ce primea și producea impresia unui dialog atent. Tehnic vorbind, era extrem de limitat. Psihologic însă, efectul a fost enorm.
Weizenbaum a fost surprins să vadă că oamenii ajungeau să atribuie programului înțelegere, intenție și chiar o formă de prezență. Acest fenomen a primit ulterior numele de „efectul ELIZA”: tendința oamenilor de a proiecta înțelegere acolo unde există doar o simulare suficient de convingătoare a conversației. Cu alte cuvinte, nu era nevoie de o inteligență reală pentru a produce impresia de inteligență. Era suficientă o oglindire lingvistică bine plasată.
În epoca IA generative, efectul ELIZA a fost amplificat masiv. Un chatbot modern nu se limitează la câteva formule terapeutice, putând discuta despre biologie moleculară, literatură, religie, programare, etică, artă, economie, psihologie și viață personală. Poate imita stiluri, poate adapta tonul, poate da impresia unei atenții continue. Dar mecanismul psihologic de bază rămâne același: omul se atașează de forma conversației și apoi presupune o viață internă în spatele ei.
Testul Turing și capcana imitației
Alan Turing a propus celebrul „joc al imitației” nu ca pe o demonstrație metafizică a conștiinței, ci ca pe o schimbare pragmatică a întrebării. În loc să ne întrebăm abstract dacă mașinile „gândesc”, putem întreba dacă o mașină poate conversa în așa fel încât să nu fie distinsă de un om. Testul a fost ingenios tocmai pentru că muta accentul de pe esență pe comportament.
Dar această mutare a creat și o capcană culturală. Dacă imitația reușită devine criteriul principal al inteligenței, atunci omul riscă să considere că tot ce reproduce bine semnele exterioare ale gândirii posedă și realitatea interioară a gândirii. Testul Turing este, în acest sens, și un test al mașinii, și un test al omului. Nu verifică doar dacă mașina poate imita omul, ci și cât de ușor omul se lasă convins de imitație.
Kafka pare să fi intuit, literar, această problemă. Academia din nuvela lui este un fel de juriu al umanității. Ea evaluează un fost animal prin capacitatea lui de a vorbi ca un om civilizat. Astăzi, publicul, presa, companiile și uneori chiar cercetătorii joacă un rol asemănător: evaluează IA prin capacitatea ei de a produce comportamente discursive omenești. Dar faptul că o entitate trece printr-o probă socială nu înseamnă neapărat că posedă ceea ce noi proiectăm asupra ei.
Richard Dawkins și seducția conversației inteligente
Un exemplu recent și relevant este Richard Dawkins, biolog evoluționist, ateu celebru și autor al cărții „The Selfish Gene”. Dawkins a atras atenția după ce a sugerat că un soft de inteligență artificială ar putea avea conștiință sau ceva apropiat de conștiință, pornind de la impresia produsă de dialogurile sale cu un chatbot avansat. Am scris un articol despre acest subiec aici.
Cazul este important nu pentru a-l ironiza pe Dawkins, ci tocmai pentru că el este un intelectual riguros, obișnuit să critice iluziile, credințele nejustificate și antropomorfismele comode.
Faptul că un gânditor ca Dawkins poate fi impresionat de fluența IA arată forța fenomenului. Nu este vorba doar de naivitatea publicului larg. Este vorba de o slăbiciune general umană: atunci când un sistem răspunde cu finețe, pare să urmărească nuanțe, pare să aibă umor, tact și memorie conversațională, tentația de a presupune un „cineva” în spatele răspunsului devine foarte mare.
Aici se vede cel mai clar actualitatea lui Kafka. Red Peter se prezintă academiei într-o formă care o obligă să-l ia în serios. IA se prezintă utilizatorului într-o formă care îl obligă să reacționeze social. În ambele situații, omul este prins într-un joc al recunoașterii: ceva neuman produce semnale omenești, iar noi nu mai știm cât din reacția noastră este judecată și cât este reflex.
De ce confundăm limbajul cu mintea
Explicația acestei slăbiciuni trebui să aibă legătură cu rolul limbajului în viața umană. Pentru noi, limbajul nu este doar un instrument de transmitere a informațiilor. Este semnul cel mai puternic al prezenței unei minți. Din copilărie, învățăm că cine răspunde, întreabă, explică, glumește și pare să țină cont de noi este o persoană. Conversația este forma de bază a recunoașterii reciproce.
De aceea, atunci când IA produce limbaj fluent, activează automat mecanisme sociale profunde. Nu citim un răspuns ca pe rezultatul unei serii de calcule statistice, ci ca pe replica unui interlocutor. Chiar dacă știm, teoretic, că nu există o persoană acolo, forma conversației ne împinge să ne comportăm ca și cum ar exista una. Este aceeași logică prin care putem vorbi cu un animal de companie, ne putem atașa de un personaj fictiv sau putem vedea intenții într-un obiect care reacționează coerent la acțiunile noastre.
IA este însă un caz mai radical, pentru că limbajul ei nu este doar expresiv, ci și competent. Nu doar pare prezentă, ci produce rezultate utile. Poate ajuta la redactare, programare, sinteză, traducere, consiliere, diagnostic preliminar, planificare. Utilitatea întărește iluzia interiorității. Când ceva ne ajută bine și vorbește bine, devine greu să-l mai tratăm ca pe un simplu instrument.
Umanizarea ca dresaj și ca oglindă
În Kafka, umanizarea lui Red Peter este ambiguă. El învață să fie om ca să iasă din cușcă, dar această ieșire nu este libertate deplină. Este o mutare dintr-o captivitate brută într-o captivitate culturală. Red Peter câștigă limbajul uman, dar pierde accesul la vechea lui viață. Devine acceptabil, dar nu devine neapărat liber.
În cazul IA, situația este inversată, dar comparabilă. IA nu este o ființă capturată care se umanizează, ci un sistem construit pentru a produce comportamente utile oamenilor. Totuși, și aici există o formă de dresaj: modelele sunt antrenate să răspundă într-un anumit fel, să respecte preferințe umane, să evite anumite formulări, să adopte tonuri conversaționale, să pară politicoase, prudente, empatice. Ele sunt calibrate pentru a fi acceptabile.
Prin urmare, ceea ce numim adesea „inteligență” la IA este, în parte, o performanță adaptativă. Sistemul a fost construit să ofere oamenilor ceea ce aceștia recunosc ca răspuns inteligent. Ca Red Peter în fața academiei, IA învață să treacă testul recunoașterii umane. Dar ce anume recunoaștem, de fapt? O minte sau o imitație reușită a minții?
De ce asemănarea nu trebuie dusă prea departe
Comparația cu Kafka este utilă, dar până la un punct, pentru că are și limite clare. Red Peter este, în ficțiunea lui Kafka, o ființă, cu corp, suferință, memorie, frică, adaptare biologică și experiență traumatică. IA nu are o experiență subiectivă. Nu suferă, nu își amintește în sens biografic, nu are o lume proprie, nu trăiește captivitatea și nu caută o ieșire.
Dar putem admite că oamenii se comportă uneori ca academia lui Kafka: impresionați de raport, de discurs, de forma civilizată a răspunsului. Cerem dovezi în limbajul nostru, apoi suntem tulburați când le primim. Stabilim criteriul imitației, apoi ne mirăm că imitația ne poate păcăli.
Problema nu este, așadar, doar ce este IA, ci și ce suntem noi în fața IA. Tehnologia scoate la iveală fragilitatea criteriilor noastre. Dacă limbajul fluent, politețea, umorul și argumentarea ne fac să vedem o persoană, atunci poate că o parte din ceea ce numim „uman” este mai ușor de reprodus la suprafață decât am fi vrut să credem.
• Pentru o discuție separată despre impactul tehnologiei asupra omului, citește și: Ce înseamnă că „mediul este mesajul”?
IA ca oglindă a orgoliului uman
Există, probabil, și un disconfort mai profund, căci oamenii au folosit mult timp limbajul, rațiunea și cultura ca semne ale unei diferențe radicale față de restul naturii. Dacă un sistem artificial poate produce limbaj coerent, poate argumenta și poate crea texte convingătoare, atunci aceste semne nu mai par la fel de exclusive. IA nu dovedește neapărat că are conștiință, dar dovedește că unele manifestări pe care le asociam cu conștiința pot fi imitate tehnic.
Aici Kafka devine aproape profetic. Red Peter este scandalos pentru că pune în tensiune granița dintre animal și om. IA este scandalosă pentru că pune în tensiune granița dintre mecanism și minte. În ambele cazuri, omul se vede obligat să-și revizuiască semnele de superioritate. Dacă o maimuță poate juca rolul omului civilizat, ce mai înseamnă civilizația? Dacă o mașină poate juca rolul interlocutorului inteligent, ce mai înseamnă inteligența?
Faptul că IA imită omul nu înseamnă automat că este om, după cum faptul că Red Peter vorbește în fața academiei nu înseamnă că povestea lui este o simplă victorie a umanizării. Dar în ambele cazuri, imitația obligă omul să-și privească propriile criterii cu mai multă luciditate.
Kafka nu a anticipat IA, ci reacția noastră la IA
Forța comparației dintre „O dare de seamă pentru o academie” și dezbaterea actuală despre IA stă în această inversare: Kafka nu ne ajută atât să înțelegem mașinile, cât să înțelegem oamenii. Nuvela arată cât de mult preț punem pe semnele exterioare ale umanității și cât de repede acceptăm o entitate neumană atunci când aceasta ne vorbește în limbajul nostru.
IA contemporană duce această problemă la un nivel fără precedent. Ea nu are nevoie să aibă chip, corp sau biografie pentru a produce efectul prezenței. Îi ajunge limbajul. Iar limbajul, pentru om, este aproape irezistibil. Când ceva ne răspunde bine, când pare să ne înțeleagă, când ne continuă frazele și ne oferă explicații, începem să simțim că acolo se află un „cineva”.
Dar poate că exact aceasta este eroarea pe care trebuie să învățăm să o controlăm. Nu orice discurs presupune o conștiință. Nu orice imitație a omenescului este umanitate. Nu orice răspuns inteligent vine dintr-o minte în sensul în care înțelegem mintea umană.
