AGI: ce-i sperie așa de tare pe miliardarii angajați în cursa atingerii inteligenței artificiale generale? Ce ar trebui să ne îngrijoreze pe noi, restul

Adrian Mihălțianu

Publisher

Ce se află în spatele declarațiilor panicate ale miliardarilor: o teamă veritabilă față de capacitățile ultimelor modele sau o strategie de dezumflare controlată a bulei AI?

• Greg Brockman, președintele OpenAI, a declarat de curând că noul model de AI al companiei, numit Astra, reprezintă un salt generațional în capacitate și că ar putea fi definit ca fiind o inteligență artificială generală - AGI

• Ce e AGI? Acea formă de inteligență artificială capabilă să înțeleagă, să învețe și să aplice cunoștințe într-o gamă largă de domenii, la un nivel comparabil cu cel al unui om, nu doar pentru cazuri restrânse

• În ultimele 48 de ore, principalii dezvoltatori de AI, în special OpenAI (Sam Altman) și Anthropic (Dario Amodei), au spus că ar dori o încetinire coordonată a dezvoltării modelelor de frontieră, subliniind necesitatea unor mecanisme de siguranță, evaluare independentă și reglementare internațională. Elon Musk s-a alăturat și el declarațiilor

• Totuși, niciun AI actual - în fapt niște LLM-uri (Large Language Models) - nu este capabil de „gândire” într-un mod similar celui uman, spun criticii. Promotorii tehnologiei arată că nici nu este nevoie de procese similare celor umane, ci doar să vezi rezultatele

• Astfel, mai avem oare doar câțiva ani până la marele colaps prezis chiar de cei care se ocupă cu dezvoltarea acestor AI, sau mai degrabă vorbim de o bulă, cum susțin mulți investitori celebri pe bursă? Și cum ar putea să se pregătească Europa, prinsă între SUA și China? 

Luna și anunțul îngrijorător 

Cât de mare este riscul ca AI să ducă la extincția umanității? Sursa datelor: AI Impacts, Forecasting Research Instituite

Aproape că nu trece nicio lună fără un anunț cât mai bombastic din partea celor care dezvoltă cele mai puternice modele de AI. Inteligența artificială va salva lumea - sau o va îngropa - depinde pe cine întrebi. Sau amândouă, dacă e să te iei după filmele de gen.

Când institutele de profil dau 10-25% șanse ca omenirea să dezvolte o AI capabilă să o șteargă de pe fața pământului în următorii 10 ani, ce mai poți spune? Dacă ai ști că ai o șansă din patru sau din zece să mori dacă te urci într-un avion, te-ai mai urca în el, chit că ți se promite că te va duce mult mai repede la destinație?

Am avut, în cursul unei singure luni, agenți AI care scapă (a se citi: care urmează la literă scopul pentru care au fost programați și profită de limite prost programate în atingerea acestui scop) și fac ravagii printre serverele altor companii, noi modele capabile să te facă să nu mai deosebești falsul de realitate, povești horror cu consumul uriaș de apă și energie al centrelor de calcul, dar și platforme politice care vor folosirea AI-ului ca „soluție” la înlocuirea migranților (vezi propunerea AfD, care tocmai a câștigat alegerile într-un land din Germania).

Pe scurt, AI-ul este văzut din ce în ce mai des ca o catastrofă care urmează să nenorocească omenirea (și poate și planeta) o dată pentru totdeauna. Să-l facă fericit pe J. D. Vance, dacă tot e pregătit să dea o mână de ajutor întru venirea Apocalipsei. Să-i ridice la rang de zei pe multimiliardarii care azvârlă banii noștri în imensul furnal din care urmează să se nască AGI-ul mâncător de speranțele omenirii.

Colac peste pupăza mecanică, declarațiile celor trei corifei AI, făcute în doar 48 de ore, au declanșat tot felul de presupuneri și scenarii: oare i-a speriat un model nou, aflat încă în dezvoltare? Oare un AI recursiv, capabil să se autoprogrameze fără control uman, i-a făcut să dea înapoi în fața unei epifanii care le-a albit și mai mult tenul?

Ce știm până acum: cât de aproape suntem, de fapt, de AGI și ce ar însemna asta pentru noi?

Cât de curând am putea asista în viața reală la un scenariu desprins parcă din Terminator? Foto: ID 459706436 | Agi © BiancoBlue | Dreamstime.com

Ucraina. De ce nu eșuează această națiune? După 35 de ani – SONDAJ

Sub presiunea războiului și în ciuda provocărilor instituționale, Ucraina își revendică în continuare statutul de putere regională. Think-tankul Visegrad Insight a întrebat patru membri din Ucraina și Polonia ce înseamnă acest lucru pentru Europa Centrală și de Est.

Curtea de Conturi a evaluat negativ formarea profesională a șomerilor din România. Statul ar trebui să se uite spre economia socială

Când vine vorba de formarea șomerilor, statul are cadru legal, are un buget și are câteva instrumente care funcționează, însă îi lipsește legătura strânsă și continuă cu angajatorii și măsurarea a ceea ce se întâmplă după un curs de formare.

Să lăsăm deoparte dezbaterile teoretice interminabile între cei care spun că LLM-urile nu-s în stare să gândească și cei care spun că nici nu e nevoie să o facă precum o facem noi. În mod clar, nici Chat GPT, nici Claude sau alt model de acest gen nu e conștient de sine așa cum suntem noi.

Sunt „doar" modele capabile să prezică texte, concluzii sau strategii în funcție de informațiile care le sunt date. Dar nu asta e problema reală. Ci faptul că oricare dintre ele, puse într-un scenariu de tip Skynet, în care li s-ar da la o parte constrângerile „morale" și li s-ar da sarcina de a supraviețui cu orice preț, ar lua extrem de senin decizia de a scăpa de omenire - dacă asta le-ar permite supraviețuirea.

Partea cea mai bună e că, deocamdată, nu au mijloacele de-a face asta. Lumea noastră e mult mai puțin conectată decât am crede. Centralele nucleare și silozurile de rachete nucleare nu sunt așa ușor de distrus, infiltrat sau acționat de la distanță. 

Spre deosebire de filme, orice răufăcător genial, fie el și sub forma a 1.000.000 de agenți puși la treabă pentru o astfel de strategie, tot ar avea nevoie de infiltrări umane, măcar la anumite niveluri ale strategiei sale, până să ajungă să facă realmente rău.

În plus, centrele de calcul sunt încă atent supravegheate de oameni, iar puterea de calcul necesară unei superminți capabilă să distrugă omenirea dintr-un foc e încă departe.

Remarcăm, totuși, că nu e nevoie ca aceste AI-uri să ajungă singure la concluzia necesității supraviețuirii, devenind conștiente de sine. E suficient să li se spună asta. Iar, în multe cazuri, să nu li se interzică - sau să nu li se interzică suficient de puternic, dacă e să ne luăm după cazul în care agenții AI au manifestat anumite rețineri în a viola restricțiile la care fuseseră supuși, doar pentru a le da nepăsători la o parte când au calculat că și-ar putea obține scopul mai rapid trișând.

Unde se ascunde adevărata problema? 

Aici e problema fundamentală care-i sperie pe cercetătorii de top care își dau demisia din marile firme de AI: modele dezvoltate acum nu sunt malefice în sine, dar sunt atât de puternice, încât deja o iau în fața celor mai puternice minți umane și sunt capabile să-și atingă scopurile, chiar și cele nobile, fără să priceapă foarte bine consecințele în cascadă. 

Malefice sau mult mai puternice decât ne puteam imagina? Imagine generată cu Dall-E

Nu, nu scapă de sub control, nu gândesc ca oamenii, ci pur și simplu sunt programați prost, de multe ori chiar în cazul testelor.

Este tulburător faptul că experimentele de înțelegere a noilor virusuri și bacterii trebuie făcute în laboratoare cu o foarte puternică supraveghere din partea statului, tocmai din cauza consecințelor uriașe în caz că scapă vreunul, în timp ce experimentele făcute în laboratoarele AI sunt încă la liber, deși un roi de agenți scăpați de sub control ar putea opri din greșeală semafoarele dintr-un oraș sau cripta bazele de date ale spitalelor. Și asta într-un simplu scenariu de test în care ar fi antrenate să lupte tocmai contra răufăcătorilor.

Pe măsură ce modelele devin tot mai puternice, ce anume împiedică, însă, un actor rău intenționat, dar cu suficienți bani (state imperialiste, grupări teroriste, extremiste sau anarhiste) să antreneze un AI tocmai pentru a distruge?

Avem deja AI folosit de drone în războiul din Ucraina: își aleg singure țintele. Peste doi ani, aceeași tehnologie poate fi multiplicată de o grupare teroristă care dă drumul la 10.000 de mici drone cu explozibil asupra unui stadion plin. Fiecare e cât un pumn, fiecare poate ucide sau răni grav un om. Vrem așa ceva?

Să presupunem că dezvoltatorii de modele AI din democrațiile vestice vor reuși să combată toate acestea prin LLM-uri suficient de bine calibrate și extraordinar de puternice, capabile să prevină și să combată orice astfel de atac. Să ignorăm pentru moment personalitatea CEO-ilor acestor companii și să le dăm crezare că au intenții benefice. Tot nu e de ajuns.

Pentru că și în scenariul în care AI-ul ar rămâne la nivelul de azi, cu un stop total la dezvoltare nouă, tot ar schimba fundamental și extrem de repede lumea. De ce? 

Când 50% dintre joburile din IT, contabilitate, bănci și alte meserii foarte bine plătite sunt amenințate cu dispariția în doar 3 ani, la ce bun să te mai apuci de o facultate de profil? Când toate problemele matematice și fizice nerezolvate timp de mii de ani sunt soluționate în mai puțin de 24 de luni de-acum încolo, la ce mai sunt buni matematicienii actuali și generațiile viitoare care sunt încă pe băncile școlii? Când muncitorul pe bandă la o fabrică auto, cu 20 de ani de experiență, corect plătit, e înlocuit cu un robot capabil să facă 10 joburi diferite, ce se mai alege de toată clasa de mijloc esențială pentru societatea liberă?

Unde se duc toate aceste joburi bine plătite? Ce impact au, în cascadă, în societate? Care va fi reacția politică la convulsiile economice și sociale inevitabile?

Ce ne așteaptă: tehnofascism sau tehnosocialism? Există și vreo altă cale?

Cum reușim, ca societate, să nu ajungem în situația în care AI-ul duce fie la tehnofascism - națiuni bogate ca SUA, ai căror superbogați domină absolut totul de la înălțimea tehnologiilor pe care le dezvoltă pe bandă rulantă și țin populația în control prin instigarea de frici și uri, într-un turbocapitalism care ne sărăcește pe toți, fie la tehnosocialism - când AI-urile sunt naționalizate, bunăstarea vine de la stat și e distribuită de acesta printr-un Venit Universal, cu toate consecințele care decurg de aici?

Am folosit socialism, dar, de fapt, e etatism, pentru că China, principalul actor vizat, nu se mai preocupă de mult de dezvoltarea vreunui model economic și social ideologic, ci doar de orice ajută în mod pragmatic la prosperitatea statului chinez ca entitate supremă, cu Partidul comunist drept principal beneficiar. 

Președintele Donald Trump, în vizită oficială în China, alături de liderul chinez Xi Jinping. Foto: Facebook/Official White House, Daniel Torok

Iar societățile, fie ele estice sau vestice, au demonstrat că etatismul nu e chiar cea mai bună cale de dezvoltare a unei societăți echilibrate.

Există o cale de mijloc, în care societatea umană mai poate rămâne democratică și preocupată atât de binele individului, cât și de binele societății ca întreg, inovația și spiritul antreprenorial merg mână în mână cu preocuparea statului și a societății civile pentru dialog și redistribuire echitabilă a surplusului, fără ca vreuna dintre părți să ajungă la diktat?

Deocamdată, se pare că ne îndreptăm spre un duel care se va întinde măcar pe un deceniu și în care calea de mijloc va fi cumplit dezavantajată. De ce?

Pentru că presupune o temporizare a dezvoltării noilor modele de AI până când sunt testate corect și coerent, iar impactul acestora asupra societății este măsurat corect. În plus, presupune că investițiile financiare și tehnologice în dezvoltarea unor AI-uri etice nu doar că fac față, dar chiar depășesc investițiile celor din modelele tehnofasciste sau tehnoetatiste.

Nu în ultimul timp, presupune că societatea deschisă la care visează societatea civilă vestică să nu fie lovită grav de extremiștii animați de toate fricile - și urile - posibile. Ceea ce vedem că, din păcate, nu e cazul.

Privind lucrurile la rece, UE și aliații săi din afara SUA nu sunt în poziția de a dicta mersul lucrurilor. Dimpotrivă, par a fi ținta predilectă a lupilor răpitori care vor să sfâșie tot ce a mai rămas din societatea liberă, atât din afară, cât și dinăuntru: de la habotnicii religioși și multimiliardarii americani la ateii chinezi cu mijloace financiare colosale, de la islamiștii care infiltrează elitele societății vestice la filocomuniștii rusofili care privesc totul clasist, de la birocrații elitiști la anarhiștii de strânsură, de la oamenii apatici convinși că totul e bine, la oamenii frustrați și speriați care vor să arunce totul în aer, parcă niciodată n-au fost mai multe amenințări convergente la adresa acestei construcții miraculoase care a asigurat pacea și bunăstarea a patru generații succesive pentru peste un miliard de oameni.

Devine tot mai clar că nu AGI sau vreo altă tehnologie sunt principala amenințare la adresa societății libere, ci chiar ideologiile extreme, care neagă libertatea individului și ne asmut unii contra celorlalți.

Sigur, un AI prost programat poate ucide câteva mii de oameni sau poate provoca o catastrofă locală sau chiar regională. Dar poate fi contracarat cu soluții gândite tot cu AI, care să prevină astfel de atacuri sau care să le limiteze rapid efectele.

Pe de altă parte, nimic nu se compară cu lăcomia, corupția, incompetența și inerția factorilor de decizie umani. Aici e adevărata problemă.

Avem vreo soluție la AGI? Mai poate supraviețui societatea deschisă de tip vestic în minunata lume nouă?

Pe lângă iluzoriile moratorii între multimiliardari și politruci chinezi care încetinesc ritmul dezvoltării AGI, principalele lucruri care ar funcționa ar fi exact acelea care ar reuși să redea rapid speranța și capacitatea de visare milioanelor de vestici care astăzi au devenit apatici sau chiar sceptici cu privire la ce a mai rămas din visul unei lumi libere și unite.

Și pentru că lupta dintre cele trei mari blocuri și ideologii se dă capitalist, UE poate reuși doar dacă imită exemplul Chinei, dar cu păstrarea valorilor esențiale ale Europei în centrul strategiei sale.

Din nefericire, pentru fiecare dintre sugestiile de mai jos ar trebui schimbate fundamental câteva legi europene. Asta necesită rapiditate și deschidere, două lucruri pentru care UE nu prea e recunoscută. Dar le menționez, totuși.

1. Construirea rapidă a unui colos european în AI capabil să facă față la nivel global. Acesta ar avea drept prim rol dezvoltarea de tehnologii europene care să ocrotească principiile fundamentale ale drepturilor individului, fără de care cea mai avansată civilizație a lumii va dispărea într-un medievalism tehnocrat ireversibil. De la securitate cibernetică, la bioinginerie și orice altă tehnologie dezvoltată cu ajutorul său, acestea ar trebui să rămână în proprietatea europenilor.

2. Păstrarea unor participații majoritare ale Uniunii la acesta, pentru a putea redistribui rapid beneficiile noilor tehnologii descoperite prin AGI, de la medicină, la robotică și altele. Probabil cel mai dificil lucru de făcut. Dar fără el, milioanele de oameni rămași fără job vor deveni foarte rapid vectorul principal de colaps al societății libere.

3. Folosirea avantajelor tehnologice ale puținelor companii-cheie europene (precum ASML, fără de care nu ar exista cele mai avansate cipuri din lume) în negocierile pentru resursele cheie necesare dezvoltării europene.

4. Gândirea unui sistem coerent pentru înlocuirea rapidă, la nivel de 10 ani, a actualului sistem social din Europa cu unul care nu mai este bazat pe eterna creștere în productivitate și de populație (deja vădit falimentar).

Acest sistem ar combina alocarea de resurse de investiții cu dobânzi mici către un sistem concurențial cu bazin limitat (câteva zeci de companii la nivel european ca principali ordonatori de credit) care să automatizeze extrem de rapid producția de hrană sănătoasă și lucruri de bază, construcția și reabilitarea masivă de case în principiile Noului Bauhaus European și dezvoltarea infrastructurii energetice și de transport de care Europa are nevoie ca de aer.

Prin alocările sale pe șapte ani, Uniunea Europeană face deja, in mod limitat, unele dintre aceste lucruri. Dar lucrurile avansează cu o viteză mult prea mare ca aceste planuri să rămână suficiente. Știu, etatism. Din păcate, se pare că nu avem cale de scăpare. Dar măcar e unul bazat pe valori fundamentale ignorate de concurenți.

PNRR a fost un foarte bun exercițiu de ce ar putea face UE pe lângă alocările normale, iar lecțiile sale trebuie învățate urgent - atât ce a mers bine, cât și ce a mers prost. 

De ce? Pentru că până și în țări corupte precum România s-a reușit impulsionarea unor lucrări majore, care ar fi fost terminate abia peste un deceniu în lipsa PNRR. Poate că - în ciuda scepticismului multora - tocmai de asta avem nevoie în Europa în privința AI.

Atenție, însă! Nu ajută pe nimeni faptul că europenii ar pălăvrăgi despre vreme cu un LLM european. Un sistem coerent în care 2-3 AI-uri mari europene s-ar lupta pentru supremație, iar la finalul a trei ani am avea un singur câștigător capabil să facă față coloșilor americani și chinezi ar fi doar primul pas în reforma reală a societății europene.

Iar această reformă trebuie să inspire nu doar elitele urbane, așa cum (nu prea) a reușit Noul Bauhaus, ci mai ales omul de rând. 

Și îl vor inspira atunci când beneficiile acestora vor fi împărțite cât mai repede cu el: printr-un venit universal legat de implicarea sa socială, printr-o plasă sustenabilă de securitate pentru cei mai defavorizați, dar mai ales prin oferirea unui viitor la care să viseze mai ales tinerii.

Unul foarte diferit de joburile noastre de la 9 la 17. De ce nu, unul poate mult mai plin de sens. În fond, avem enorm de muncă pentru a găsi și aplica soluțiile decarbonizării economiei globale și în curățarea mediului de tot ce am aruncat în el în ultimii 200 de ani. E o cursă cel puțin la fel de importantă precum cea AI. 

Poate că, din furtuna asta perfectă în care tocmai am intrat, vom ieși pe partea cealaltă nu în bucățele, ci ca o societate cu adevărat nouă și rezilientă. Nu știu cât e cota la pariuri pentru asta, dar eu unul pun toți banii pe această miză.