În fiecare zi, în fiecare săptămână, acceptăm termeni și condiții. Când facem asta, oferim companiilor dreptul legal să facă ce vor cu informațiile noastre și ale copiilor noștri. Ceea ce ne face să ne întrebăm: câte informații referitoare la copii oferim și care sunt implicațiile?
Sunt multe, inimaginabil de multe date care sunt produse și colectate referitoare la copii. Problema e mult mai mare decât simpla distribuire de informații despre copii de către părinți. E vorba de sisteme, nu de indivizi.
Pentru prima oară în istorie, urmărim informații individuale ale copiilor cu mult înainte să se nască, câteodată de la momentul concepției. Apoi după, pe parcursul vieții.
Când părinții decid să conceapă un copil, caută online „moduri de a rămâne însărcinată” sau descarcă aplicații care urmăresc perioada de ovulație.
Când rămân însărcinate, postează ultrasunetele bebelușului pe rețele de socializare, descarcă aplicații pentru graviditate, sau îl consultă pe Dr. Google pentru tot felul de lucruri cum ar fi, știți voi — „risc de pierdere a sarcinii în timpul zborului” sau „crampe abdominale în graviditatea timpurie”.
După ce bebelușul s-a născut, diverse aplicații îi monitorizează somnul, hrănirea, fiecare eveniment din viață cu diferite tehnologii. Și din toate aceste tehnologii, transformă cele mai intime informații despre bebeluș în profit, distribuindu-le altora.
• Informațiile sunt distribuite între companii
În 2019, British Medical Journal a publicat rezultatele unei cercetări care arăta că din 24 de aplicații de mobil pentru sănătate, 19 ofereau informațiile unor terțe părți. Iar aceste părți terțe ofereau mai departe informațiile altor 216 organizații. Din aceste 216 organizații, doar trei aparțineau sectorului medical. Celelalte companii care aveau acces la informații erau companii IT, cum ar fi Google, Facebook sau Oracle, erau companii de reclame digitale, era, de asemenea, și o agenție de raportare a creditului pentru consumatori.
Deci ați înțeles: companiile de reclame și de creditare au deja informații despre bebeluși. Dar aplicațiile, căutările web și rețelele de socializare sunt doar vârful aisbergului, pentru că acești copii sunt urmăriți de tehnologii multiple în viețile lor cotidiene. Sunt urmăriți de tehnologii din casă și de asistenți virtuali. Sunt urmăriți de platforme educative și de tehnologii educative în școli, prin înregistrări online și portaluri online la cabinetul medical. Sunt urmăriți de jucării conectate la Internet de jocurile online și de multe, multe, multe alte tehnologii.
• Contează că se colectează date despre copii?
Dar și ce dacă? De ce contează dacă copiii sunt urmăriți? Nu avem nimic de ascuns, nu?
Ei bine, contează. Contează pentru că în ziua de azi indivizii nu doar că sunt urmăriți, dar se și profită de pe urma lor, în funcție de datele acestora. Inteligența artificială și analiza predictivă sunt folosite pentru a obține cât mai multe informații despre o persoană, din diferite surse: istoria familiei, obiceiuri de cumpărături, comentarii pe rețelele de socializare. Iar ei pun informațiile la un loc pentru a lua decizii bazate pe informațiile unui individ. Iar aceste tehnologii sunt folosite pretutindeni. Băncile pentru a decide acordarea creditelor. În asigurări la calculul primei de asigurare. Cei ce recrutează și angajatorii le folosesc pentru a decide dacă ai profilul potrivit unei slujbe sau nu. Poliția și instanțele le folosesc pentru a determina dacă cineva e un potențial infractor sau dacă e probabil să recidiveze. Nu avem cunoștințe, nici control asupra felului în care cei care ne cumpără, ne folosesc și ne vând datele ne creează profiluri nouă și copiilor noștri.
Dar aceste profiluri pot să ne afecteze drepturile în mod semnificativ. Iată un exemplu: în 2018, The New York Times a publicat știrea că informațiile strânse prin serviciile de planificare pentru facultate, care sunt completate de milioane de liceeni din Statele Unite care caută o facultate, o bursă — au fost vândute brokerilor de date ce privesc educația. Cercetătorii de la Fordham care au studiat brokerii de date educaționale au dezvăluit că aceste companii creau profiluri chiar și copiilor cu vârsta de doi ani, pe baza mai multor categorii: etnie, religie, bunăstare, jenă socială și multe alte categorii. Și apoi vând aceste profiluri, împreună cu numele copilului, adresa de acasă și datele de contact diferitelor companii, inclusiv instituțiilor care au ca obiect de activitatea profesiile și cariera, companiilor de creditare și bancare pentru studenți.
Pentru a forța nota, cercetătorii de la Fordham i-au cerut unui broker de informații educaționale să le dea o listă cu fete de 14 până la 15 ani care erau interesate de servicii de planificare familială. Brokerul de informații a fost de acord.
Imaginați-vă cât de intim și intruziv e asta pentru copiii noștri.
• Profilurile online le pot afecta viitorul copiilor
Dar brokerii de informații educaționale sunt doar un exemplu. Adevărul e că, în fapt, copiilor noștri li se creează profiluri în moduri pe care nu le controlăm, dar care pot să le influențeze șansele în viață. Trebuie să ne întrebăm: putem avea încredere în aceste tehnologii în legătură cu realizarea profilului copiilor noștri? Putem? Răspunsul e nu.
Inteligența artificială și analiza predictivă sunt grozave când prezic parcursul unei boli sau în combaterea schimbărilor climatice. Dar nu trebuie să credem că aceste tehnologii pot să creeze profiluri ale oamenilor în mod obiectiv și că ne putem baza pe ele pentru a lua decizii bazate pe date vizând viețile individuale. Pentru că profilurile nu pot reflecta fidel oamenii. Informațiile nu sunt oglinda noastră. Oamenii se gândesc la ceva și spun opusul, se simt într-un fel și acționează altfel. Predicțiile algoritmice și practicile digitale nu pot lua în calcul imprevizibilitatea și complexitatea experienței umane. Dar mai presus de atât, aceste tehnologii sunt mereu, într-un fel sau altul, definite de anumite tendințe, neobiective.
• Algoritmii nu sunt obiectivi
Algoritmii sunt prin definiție un set de reguli și pași care au fost concepuți pentru a obține un anume rezultat, da? Dar aceste reguli sau pași nu pot fi obiectivi pentru că au fost creați de oameni într-un anume context cultural și sunt influențate de anumite valori culturale. Deci, când mașinăriile învață, învață prin algoritmi neobiectivi și învață adesea din baze de date neobiective.
În prezent, vedem primele exemple de tendințe neobiective ale algoritmilor. Iar unele din aceste exemple sunt înfiorătoare. Anul acesta, AI Now Institute din New York a publicat un raport care dezvăluie că tehnologiile de IA (inteligență artificială) care sunt folosite pentru poliția predictivă au fost antrenate cu informații „murdare”. Practic, informații obținute în perioade istorice cu prejudecăți rasiale și cu practici netransparente ale poliției. Pentru că aceste tehnologii sunt antrenate cu informații „murdare”, acestea nu sunt obiective, iar rezultatele lor doar amplifică și perpetuează prejudecățile și erorile poliției.
Avem, așadar, în fața noastră o problemă fundamentală în societatea noastră. Începem să avem încredere în tehnologii, când vine vorba de crearea de profiluri oamenilor. Știm că atunci când e vorba de profiluri, aceste tehnologii vor avea mereu prejudecăți și niciodată nu vor fi precise cu adevărat.
Guvernele trebuie să admită că drepturile la datele noastre fac parte din drepturile omului. Până când asta nu se întâmplă, nu putem spera la un viitor mai corect.
Informațiile colectate despre copii acum pot fi folosite pentru a-i judecat în viitor și pot să le împiedice să-și realizeze speranțele și visele.
E vremea să lucrăm împreună și să cerem dreptate pentru datele noastre și pentru copiii noștri, înainte să fie prea târziu.
Textul este o adaptare a textului din videoclip.
