Marti si miercuri, 11-12 iunie 2024, la World Trade Center din Bucuresti, se desfasoara conferinta “The Chalenge of AI” organizata de Master Communications International, sub bagheta fostului bancher Razvan Haritonovici, ex-presedinte al societatii de asigurari Astra. Evenimentul a adunat o seama de personalitati publice ale vietii publice romanesti si din strainatate, printre care: fostul premier Petre Roman, ministrul energiei Sebastian Burduja, Varujan Vozganian, dr. Hardy Schloer CEO al Alpha Centauri, Dan Shomon fost sef de campanie si consilier pe cyber-securitate al ex-presedintelui SUA Barack Obama, numerosi jurnalisti si specialisti in domenii de securitate cibernetica, energie, finante-banci, asigurari etc.

Rand pe rand, vorbitorii au subliniat faptul ca Inteligenta Artificiala (AI) este un concept modern despre care vorbeste toata lumea, dar nimeni nu poate explica cum functioneaza. Cu toate acestea, se estimeaza cu in urmatorii 5 – 10 ani, inteligenta artificiala va sta, prin natura informatiilor pe care le va procesa si sintetiza, la baza tuturor deciziilor guvernamentale si institutionale care vor privi umanitatea, inclusiv cele de ordin militar. Cat de corecte vor fi aceste decizii in raport de interesul real al umanitatii, aici este marea provocare si totodata marele pericol intrucat sistemele de calcul vor da rezultate in functie de informatiile furnizate, limitele tehnice de procesare hardware si multe alte necunoscute, care pot genera erori ce se pot dovedi fatale. Pentru intelegere, un simplu sistem folosit azi pe scara larga de oameni (cum sunt programele de navigatie rutiera de tip Waze, de exemplu) desi se bazeaza in gasirea solutiilor de trafic pe harti deosebit de precise, da de multe ori erori mari,, in mod inexplicabil. Cu atat mai mult creste exponential pericolul atunci cand vorbim de oferirea de rezultate in ceea ce priveste deciziile cruciale pe care omenirea trebuie sa le ia pentru a evolua, si care pot deveni fatale, in sensul ca ne pot duce chiar catre extinctia omenirii.

Utopia AI

Dr. Hardy F. Schloer, CEO al Alpha Centauri (foto 2) a sustinut cuvantul de deschidere al conferintei, sutinand ca inteligenta artificiala este un mega-trend ce nu mai poate fi stopat: “Inteligenta artificiala functioneaza cu mult peste viteza cunoasterii umane. Daca omenirea se afla pe o traiectorie de auto-extinctie, atunci AI ne va ajuta doar sa ajungem acolo mai repede, de fapt exponential mai repede, cu exceptia cazului in care ne reorientam natura si comportamentul general si pe cel al IA... depinde de noi sa alegem daca lasam aceasta tendinta sa-si termine finalul natural si, prin urmare si sfarsitul nostru sau daca suntem dispusi sa recunoastem aceasta tendinta daunatoare si sa facem ceva pentru a-i schimba traiectoria”.

Dr. Hardy F. Schloer a subliniat ca exista o suita de probleme greu de surmontat in privinta controlului IA: “modelelor actuale de inteligenta artificiala le lipseste transparenta. Nimeni nu poate spune ce face IA intern si nimeni nu poate explica de ce sau cum IA a produs rezultatele pe care le-a dat. Acesta este un risc inacceptabil... actuala retea neuronala generativa a modelelor IA nu accepta aceasta posibilitate... partinirea operatorului este una sistemica, automat integrata in proces, pentru a impinge rezultatele in ferestree tinta acceptabile de operator. In acest fel, retelele neuronale extrag doar o gama predefinita de raspunsuri din seturi vaste de date, care pot fi pe placul utilizatorului de sistem sau operatorului, dar este posibil sa nu reflecte deloc rezultatele reale... acest lucru poate duce la rezultate inechitabile sau profund discriminatorii, in special in angajari organizationale, imprumuturi financiare, Drept, aplicarea legii sau cererile in justitia penala. Abordarea nonpartinitoare si asigurarea echitatii in sistemele de IA este cruciala pentru construirea increderii si evitarea vatamarii societatii... tehnologiile bazate pe inteligenta artificiala vor conduce aceasta planeta, cu siguranta, intr-un fel sau altul, in urmatorul deceniu. Acesta este un fapt de o certitudine ireversibila!”