Cam cât de încredere este ChatGPT?

Nici macar nu mi-e clar daca pot fi numiti algoritmi, in sensul clasic al termenului. Din ce inteleg, modelele acestea de limbaj sunt practic niste structuri de date multidimensionale de o complexitate uriasa, niste matrici multidimensionale cu jetoane de text in noduri si diverse costuri asociate legaturilor dintre noduri, construite gradat, prin parcurgerea unor cantitati uriase de text. 

Foarte multe din textele folosite pentru antrenarea acestor asa-zisi transformeri provin din site-uri web. La o cautare simpla a textului dvs., am constatat ca Google nu ofera rezultate valide. Doar prin adaugarea numelui autorului la textul de cautat apar rezultate valide. Ceea ce ma face sa cred ca GPT-ul efectiv nu are cum regasi textul din intrebare, si nici nu are cum sa il reconstruiasca pe baza textelor pe care a fost antrenat. Asa ca tot ce poate face e sa  aproximeze ori sa imagineze cu foarte multa incredere in sine atunci cand nu reuseste sa obtina textul identic prin parsarea propriei retele neurale, altfel spus "halucineaza", cum se zice la chestia asta prin cercurile de (asa-zisi) specialisti...

Cele mai bune videouri de popularizare pe tema GPT-urilor sunt, in opinia mea (desi nu le pot intelege complet), cele de la 3Blue1Brown, o serie de vreo 7, las link mai jos catre unul din ele. Nu am reusit sa duc niciunul pana la capat, complexitatea prezentarii creste repede la un nivel care depaseste utilizatorul mediu. Si vorbim de o incercare de popularizare a tehnologiei...