Modul în care se dezvoltă astăzi inteligența artificială (IA) este decis în prezent de un grup mic de experți în tehnologie. Pe măsură ce această tehnologie ne transformă viața, ar trebui să fie în interesul nostru să fim informați și implicați.

De ce ar trebui să ne pese de dezvoltarea inteligenței artificiale? Gândiți-vă cum ar arăta cealaltă variantă. Dacă dvs. și publicul larg nu vă informați și nu vă implicați, atunci lăsați în seama câțiva antreprenori și ingineri să decidă cum va transforma lumea această tehnologie. Acesta este status quoul. Acest număr mic de oameni de la câteva firme de tehnologie care lucrează nemijlocit în domeniul inteligenței artificiale înțeleg cât de extraordinar de puternică devine această tehnologie. Dacă restul societății nu se implică, atunci această mică elită va fi cea care va decide cum această tehnologie ne va schimba viața.

Pentru a schimba acest status quo, vreau să răspund la trei întrebări în acest articol:
1. de ce este greu să iei în serios perspectiva unei lumi transformate de IA?
2. cum ne putem imagina o astfel de lume?
3. care sunt riscurile, pe măsură ce această tehnologie devine mai puternică?


De ce este greu să iei în serios perspectiva unei lumi transformate de inteligența artificială?

Într-un fel, ar trebui să fie evident modul în care tehnologia poate transforma în mod fundamental lumea. Trebuie doar să ne uităm la cât de mult s-a schimbat deja lumea. Dacă ați putea invita o familie de vânători-culegători de acum 20.000 de ani la următorul zbor, ar fi destul de surprinși. Tehnologia ne-a schimbat deja lumea, așa că ar trebui să ne așteptăm să se întâmple din nou.

Dar deși am văzut lumea transformându-se înainte, am văzut aceste transformări derulându-se de-a lungul unor generațiilor. Ceea ce este diferit acum este cât de rapide au devenit aceste schimbări tehnologice. În trecut, tehnologiile pe care strămoșii noștri le foloseau în copilărie erau încă esențiale la bătrânețe. Acest lucru nu a mai fost valabil pentru ultimele generații. În schimb, a devenit obișnuit ca tehnologiile inimaginabile în tinerețe să devină obișnuite mai târziu în viață.

Acesta este primul motiv pentru care s-ar putea să nu luăm lucrurile în serios: este ușor să subestimăm viteza cu care tehnologia poate schimba lumea.

Al doilea motiv pentru care este dificil să luăm în serios posibilitatea unei IA transformatoare – poate chiar și la fel de inteligentă ca oamenii – este acela că reprezintă o idee pe care am auzit-o prima dată în cinema. Nu este surprinzător că pentru mulți dintre noi, prima reacție la un scenariu în care mașinile au capacități asemănătoare omului este aceeași ca în situația în care ni s-ar cere să luăm în serios un viitor în care vampirii, vârcolacii sau zombii cutreieră planeta.

Dar este plauzibil ca atât partea SF, cât și invenția umană să intre în viața noastră sau a copiilor noștri.

Al treilea motiv pentru care este dificil să luăm această perspectivă în serios este acela că nu credem că inteligența artificială ar putea duce la schimbări foarte mari. Acest lucru este, de asemenea, de înțeles. Este dificil să ne formăm o idee despre un viitor care este foarte diferit de timpul prezent. Există două concepte pe care le găsesc utile în a-mi imagina un viitor foarte diferit cu inteligența artificială. Să ne uităm la amândouă.


Cum să-ți faci o idee despre cum ar putea arăta viitorul inteligenței artificiale?

Când mă gândesc la viitorul inteligenței artificiale, găsesc că este util să iau în considerare în special următoarele două concepte: inteligența artificială generală (care să aibă capacitatea de a se raporta la lume, în complexitatea ei, aşa cum o face fiinţa umană) și inteligența artificială transformatoare.

Primul concept, IA generală, evidențiază capacitățile IA și le aduce la un nivel familiar, în timp ce IA  transformatoare subliniază impactul pe care l-ar avea această tehnologie asupra lumii.

De unde suntem astăzi, multe dintre acestea ar putea suna ca științifico-fantastice. Prin urmare, merită să rețineți că majoritatea experților în IA cred că există o probabilitate rezonabilă ca inteligența artificială generală să fie dezvoltată în următoarele decenii, iar unii cred că aceasta va deveni realitate mult mai devreme.


Avantajele și dezavantajele comparării inteligenței artificiale și a celei umane
O modalitate de a gândi despre inteligența artificială generală este să o raportezi la starea actuală a tehnologiei IA. În timp ce sistemele IA de astăzi au adesea capabilități similare cu o anumită parte limitată a minții umane, IA generală ar fi o mașină care ar fi capabilă să îndeplinească aceeași gamă de sarcini intelectuale de care suntem capabili noi, oamenii. Este o mașină care ar fi „în stare să învețe să facă orice poate face un om”, așa cum au spus Norvig și Russell.

Luate împreună, gama de abilități care caracterizează inteligența le oferă oamenilor capacitatea de a rezolva probleme și de a atinge o mare varietate de obiective. O IA generală ar fi, prin urmare, un sistem care ar putea rezolva toate acele probleme pe care noi, oamenii, le putem rezolva și să îndeplinească sarcinile pe care oamenii le fac astăzi. O astfel de mașină, sau grupare de mașini, ar putea să facă munca unui traducător, contabil, grafician, profesor, terapeut, șofer de camion sau munca unui „trader” pe piețele financiare mondiale. Ca și noi, ar putea, de asemenea, să facă cercetare și știință și să dezvolte noi tehnologii bazate pe asta.

Conceptul de IA generală are câteva avantaje clare. Folosind familiaritatea propriei noastre inteligențe ca referință, ne oferă câteva îndrumări clare despre cum să ne imaginăm capacitățile acestei tehnologii.

Cu toate acestea, are și dezavantaje clare. Imaginându-ne viitoarele sisteme de inteligență artificială ca fiind asemănătoare cu inteligența umană presupune riscul ca diferențele foarte reale dintre ele să nu mai fie conștientizate.

Unele dintre aceste diferențe sunt evidente. De exemplu, sistemele IA vor avea memoria imensă a sistemelor informatice, față de care propria noastră capacitate de a stoca informații este redusă. O altă diferență evidentă este viteza cu care o mașină poate colecta și procesa informații. Dar stocarea informațiilor și viteza de procesare nu sunt singurele diferențe. Domeniile în care mașinile depășesc deja oamenii sunt în creștere constantă: în șah, după ce au egalat nivelul celor mai buni jucători umani la sfârșitul anilor 90, sistemele IA au atins niveluri supraomenești în urmă cu mai bine de un deceniu. În alte jocuri precum goul sau jocuri complexe de strategie, acest lucru s-a întâmplat mai recent.

Aceste diferențe înseamnă că IA care este cel puțin la fel de bună ca oamenii în toate domeniile ar fi în general mult mai puternică decât mintea umană. Chiar și inteligența artificială generelă ar fi, prin urmare, superioară inteligenței umane în multe privințe.

Inteligența umană este, de asemenea, o metaforă proastă pentru inteligența mașinilor. Modul în care gândim este adesea foarte diferit de cel al mașinilor și, în consecință, rezultatul „gândirii” mașinilor ne poate fi foarte străin.

Cele mai îngrijorătoare sunt modurile ciudate și neașteptate în care IA poate eșua. Imaginea calului generată de IA de mai jos oferă un exemplu: pe de o parte, IA poate face ceea ce niciun om nu poate face, adică să producă o imagine a orice, în orice stil, în doar câteva secunde, dar, pe de altă parte, poate eșua în moduri în care niciun om nu ar eșua. Niciun om nu ar face greșeala de a desena un cal cu cinci picioare, ca în imaginea de mai jos.



A-ți imagina IA generală ca doar un alt om ar fi, prin urmare, probabil o greșeală. Diferențele ar putea fi atât de mari, încât denumirea acestora drept „IA la nivel uman” ar fi greșită.

Inteligența artificială transformatoare este definită de impactul pe care l-ar avea această tehnologie asupra lumii
Conceptul de IA transformatoare nu se bazează pe o comparație cu inteligența umană. Acest lucru are avantajul de a ocoli problemele pe care le aduc comparațiile cu propria noastră minte. Dar are dezavantajul că este mai greu de imaginat ce ar fi capabil să facă un astfel de sistem IA. Cere mai mult de la noi, căci ne solicită să ne imaginăm o lume cu actori inteligenți care pot fi foarte diferiți de noi înșine.

IA transformatoare nu este definită de nicio capabilitate specifică, ci doar de impactul pe care l-ar avea în lumea reală. Pentru a se califica drept transformatoare, IA ar trebui să fie „suficient de puternică pentru a ne aduce într-un viitor nou, diferit calitativ”.

În istoria umanității, au existat două cazuri de astfel de transformări majore, revoluția agriculturii și revoluția industrială. IA transformatoare, devenită realitate, ar fi un eveniment la această scară. La fel cu sosirea agriculturii în urmă cu 10.000 de ani sau tranziția de la fabricarea manuală la fabricarea mașinilor, ar fi un eveniment care ar schimba lumea pentru miliarde de oameni de pe tot globul și pentru întreaga traiectorie a viitorului umanității.

Tehnologiile care schimbă fundamental modul în care sunt produse o gamă largă de bunuri sau servicii sunt numite „tehnologii cu uz general”. Cele două evenimente transformatoare anterioare au fost cauzate de descoperirea a două tehnologii cu scop general deosebit de semnificative: schimbarea producției de alimente pe măsură ce umanitatea a trecut de la vânătoare și cules la agricultură și creșterea producției de mașini în revoluția industrială. Pe baza dovezilor și argumentelor existente cu privire la dezvoltarea IA, cred că este plauzibil ca IA puternică să reprezinte introducerea unei tehnologii de uz general la fel de semnificative.

Un viitor cu IA generală sau IA transformatoare?
Cele două concepte sunt strâns legate, dar nu sunt la fel. Crearea unei IA generale ar avea cu siguranță un impact transformator asupra lumii noastre. Dacă munca majorității oamenilor ar putea fi realizată de o IA, viața a milioane de oameni s-ar schimba.

Opusul, însă, nu este adevărat: am putea vedea IA transformatoare fără a dezvolta IA generală. Deoarece mintea umană este în multe privințe o metaforă slabă pentru inteligența mașinilor, am putea dezvolta în mod plauzibil IA transformatoare înainte de a dezvolta IA la nivel uman. În funcție de modul în care evoluează lucrurile, acest lucru ar putea însemna că nu vom vedea niciodată nicio inteligență a mașinilor pentru care inteligența umană este o comparație utilă.

Când și dacă sistemele IA ar putea atinge oricare dintre aceste niveluri este desigur dificil de prezis. În articolul meu despre această întrebare, ofer o privire de ansamblu asupra a ceea ce cred în prezent cercetătorii din acest domeniu. Mulți experți în inteligență artificială cred că există o probabilitate rezonabilă ca astfel de sisteme să fie dezvoltate în următoarele decenii, iar unii cred că vor exista mult mai devreme.

Ce este în joc pe măsură ce inteligența artificială devine mai puternică?

Toate inovațiile tehnologice majore duc la o serie de consecințe pozitive și negative. Pentru IA, spectrul de rezultate posibile – de la cele mai negative la cele mai pozitive – este extraordinar de larg.

Că utilizarea tehnologiei IA poate provoca rău este clar, deoarece se întâmplă deja.

Sistemele IA pot provoca daune atunci când oamenii le folosesc cu intenții nocive. De exemplu, atunci când sunt utilizate în campanii de dezinformare motivate politic sau pentru a permite supravegherea în masă.

Dar sistemele de inteligență artificială pot provoca, de asemenea, daune neintenționate, atunci când acționează diferit de ce așteaptă de la acestea sau eșuează. De exemplu, în Țările de Jos, autoritățile au folosit un sistem IA care a susținut în mod fals că aproximativ 26.000 de părinți au făcut cereri frauduloase pentru beneficii pentru îngrijirea copilului. Acuzațiile false au dus la dificultăți pentru multe familii sărace și, de asemenea, au dus la demisia guvernului olandez în 2021.

Pe măsură ce IA devine mai puternică, posibilele efecte negative ar putea deveni mult mai mari. Multe dintre aceste riscuri au primit pe bună dreptate atenția publicului: IA mai puternică ar putea duce la deplasarea în masă a forței de muncă sau la concentrări extreme de putere și bogăție. În mâinile autocraților, ar putea întări totalitarismul prin capacitatea sa de supraveghere și control în masă.

Așa-numita „problemă de aliniere” a IA este un alt risc extrem („problema de aliniere” se referă la problemele generate de faptul că mașinile ar putea să aibă valori diferite față de noi, oamenii. n.n.). Aceasta este îngrijorarea că nimeni nu ar putea controla un sistem IA puternic, chiar dacă IA întreprinde acțiuni care ne dăunează nouă sau umanității în ansamblu. Acest risc primește, din păcate, puțină atenție din partea publicului larg, dar este văzut ca un risc extrem de mare de mulți cercetători de frunte în domeniul inteligenței artificiale.

Cum ar putea IA să scape de controlul uman și să ajungă să facă rău oamenilor?
Riscul nu este ca IA să devină conștientă de sine, să aibă intenții rele și să „aleagă” să facă acest lucru. Riscul este acela să încercăm să instruim IA să urmărească un anumit scop – chiar unul foarte util – și în urmărirea acestui obiectiv IA ajunge să dăuneze oamenilor. Este vorba despre consecințe nedorite. IA face ceea ce i-am spus noi să facă, dar nu ceea ce am vrut noi să facă.

Nu putem spune IA să nu facă acele lucruri? Este cu siguranță posibil să construim IA care evită orice problemă anume pe care o prevedem, dar este greu de prevăzut toate posibilele consecințe nedorite. Problema de aliniere apare din cauza „imposibilității de a defini corect și complet scopurile umane adevărate”, așa cum spune Stuart Russell, cercetător în domeniul IA.

Nu putem atunci să oprim sistemul IA? Acest lucru ar putea să nu fie posibil. Acest lucru se datorează faptului că IA puternică ar ști două lucruri: se confruntă cu riscul ca oamenii să o poată opri și nu își poate atinge obiectivele odată ce a fost oprită. În consecință, IA va urmări un obiectiv fundamental, acela de a se asigura că nu va fi oprită. Acesta este motivul pentru care, odată ce realizăm că o inteligență artificială extrem de inteligentă provoacă daune neintenționate în urmărirea unui anumit obiectiv, s-ar putea să nu fie posibil să o dezactivăm sau să schimbăm ceea ce face sistemul IA.

Acest risc – ca omenirea să nu poată menține controlul odată ce IA devine foarte puternică și că acest lucru ar putea duce la o catastrofă extremă – a fost recunoscut încă de la începuturile cercetării în domeniul IA, cu mai bine de 70 de ani în urmă. Dezvoltarea foarte rapidă a IA din ultimii ani a făcut ca o soluție la această problemă să fie mult mai urgentă.

Am încercat să rezum câteva dintre riscurile IA, dar un articol scurt nu este suficient spațiu pentru a aborda toate întrebările posibile. În special în ceea ce privește cele mai mari riscuri ale sistemelor IA și ce putem face acum pentru a le reduce, vă recomand să citiți cartea The Alignment Problem de Brian Christian și articolul lui Benjamin Hilton Preventing an AI-related catastrophe.

Dacă reușim să evităm aceste riscuri, IA transformatoare ar putea duce și la consecințe foarte pozitive. Progresele în știință și tehnologie au fost cruciale pentru numeroasele evoluții pozitive din istoria umanității. Dacă ingeniozitatea artificială o poate spori pe cea umană, ne-ar putea ajuta să facem progrese cu privire la multele probleme mari cu care ne confruntăm: de la energie mai curată, la înlocuirea slujbelor neplăcute și la o îngrijire medicală mult mai bună.

Acest contrast extrem de mare între posibilele consecințe pozitive și negative ne rată în mod clar că mizele sunt neobișnuit de mari cu această tehnologie. Reducerea riscurilor și rezolvarea problemei de aliniere ar putea însemna diferența dintre un viitor sănătos, înfloritor și bogat pentru umanitate și distrugerea acestuia.


Cum ne putem asigura că dezvoltarea IA merge bine?

Să ne asigurăm că dezvoltarea inteligenței artificiale merge bine nu este doar una dintre cele mai importante preocupări ale timpului nostru, ci probabil una dintre cele mai importante întrebări din istoria omenirii. Acest lucru necesită resurse publice: finanțare publică, atenția societății și implicarea societății.

În prezent, aproape toate resursele care sunt dedicate IA urmăresc să accelereze dezvoltarea acestei tehnologii. Eforturile care vizează creșterea siguranței sistemelor IA, pe de altă parte, nu primesc resursele de care au nevoie. Cercetătorul Toby Ord a estimat că în 2020 s-au cheltuit între 10 și 50 de milioane de dolari pentru lucrări pentru a rezolva problema de aliniere. Investiția corporativă în IA în același an a fost de peste 2.000 de ori mai mare, însumând 125 de miliarde de dolari.

Și aici nu ne referim doar la problema de liniere. Efortul cu privire la întreaga gamă de consecințe sociale negative ale IA este insuficient în comparație cu investițiile mari pentru a crește puterea și utilizarea sistemelor IA.

Este frustrant și îngrijorător pentru societate în ansamblu că munca în domeniul siguranței IA este neglijată și că puțină finanțare publică este dedicată acestui domeniu crucial de cercetare. Pe de altă parte, pentru fiecare persoană în parte această neglijare înseamnă că are o șansă bună de a face efectiv o diferență pozitivă, dacă se dedică acestei probleme acum. Și deși domeniul siguranței IA este redus, oferă resurse bune despre ceea ce puteți face concret dacă doriți să lucrați la această problemă.

Sper ca mai mulți oameni să-și dedice cariera acestei cauze, dar este nevoie de mai mult decât eforturi individuale. O tehnologie care ne transformă societatea trebuie să fie un interes central pentru noi toți. Ca societate, trebuie să ne gândim mai mult la impactul social al inteligenței artificiale, să devenim informați despre tehnologie și să înțelegem care sunt riscurile.

Când copiii noștri se vor uita înapoi la ziua de azi, îmi imaginez că le va fi greu să înțeleagă cât de puțină atenție și resurse am dedicat dezvoltării unei IA sigure. Sper că acest lucru se va schimba în următorii ani și că vom începe să dedicăm mai multe resurse pentru a ne asigura că IA puternică este dezvoltată într-un mod care să ne avantajeze pe noi și generațiilor următoare.

Dacă nu reușim să ajungem la această înțelegere amplă, atunci va rămâne mica elită care finanțează și construiește această tehnologie să determine modul în care una dintre cele mai puternice tehnologii din istoria umanității ne va transforma lumea.

Traducere după Artificial intelligence is transforming our world, articol publicat de OurWorldInData sub licență Creative Commons BY license.
Credit imagine depositphotos.com

Write comments...
symbols left.
You are a guest ( Sign Up ? )
or post as a guest
Loading comment... The comment will be refreshed after 00:00.
  • This commment is unpublished.
    Met · 1 months ago
    "Dacă dvs. și publicul larg nu vă informați și nu vă implicați, atunci lăsați în seama câțiva antreprenori și ingineri să decidă cum va transforma lumea această tehnologie"
    - Mai mare greșeală de logica NU exista pe fata Pământului.  Voi nu aveți idee ce înseamnă mașina cu Inteligenta Artificiala  și care e diferența fata de un Robot.
    Idee nu aveți cum sa o creați,  dar cel mai grav este ca idee nu aveți la ce riscuri supuneți întreaga lume. Eu știu cum e definita I.A. și cum trebuie construita, dar nici în un caz nu trebuie construita asa creatura.
    La prostii câți sunt azi , ca nu gândesc nimic deoarece robotii le fac munca, sa mai existe încă mai mulți idioți.  Planeta e destrusa de mizeria care se intimpla în ecologice
     - aceasta deoarece orice oaie are drept sa c*ace cum vrea mediul înconjurător, iar derbedeii prives supuși ba încă le mai creează condiții sa polueze mai departe Planeta. 



Dacă găsești site-ul util, ne poți ajuta cu o DONAȚIE