Inteligența artificială pentru republica digitală România: poate fi ea dezvoltată de apologeți ai extremismului?

Adrian Mihălțianu

Publisher

În cartea sa The Technological Republic - Hard Power, Soft Belief, and the Future of the West, Alexander C. Karp, CEO al Palantir Technologies, argumentează faptul că națiunea americană - și, prin extensie, cultura vestică, sunt superioare și trebuie apărate de asaltul dușmanilor libertății, inclusiv prin mobilizarea companiilor private în slujba statului.

Cartea este scrisă, de fapt, împreună cu Nicholas W. Zamiska, responsabil de afacerile corporative și consilier juridic al biroului directorului executiv la Palantir Technologies. Cu alte cuvinte, nu este doar expresia viziunii CEO-ului companiei, ci și viziunea întregii companii - în special într-o lume în care poziționările publice ale unei corporații trebuie să treacă întotdeauna prin filtrul departamentului legal.

Cartea lui Karp este o lungă incursiune într-o dezbatere care e din ce în ce mai aprinsă: ce rol ar trebui să joace înalta tehnologie în societatea pluralistă, în special inteligența artificială, de ce ar trebui ca inițiativa privată să se reorienteze spre întărirea statului și ce anume apărăm atunci când punem tehnologia inteligentă în slujba statului.

Pentru cei care nu vor găsi timp să citească toată cartea, ideile sale principale sunt rezumate în manifestul Palantir, publicat chiar de companie pe canalul său oficial de pe X.

Cele mai importante puncte din manifest sunt, de altfel, cele care reiau ideile de la finalul cărții lui Karp. Iată-le:

Deși ele au dus imediat la acuzații de fascism la adresa lui Karp, aceste idei au un context: sentimentul că civilizația vestică este sub asaltul altor culturi - în special cele venite din orient - care sunt incompatibile cu ea și care o subminează din interior prin soft beliefs (i.e. propagandă, dar și exacerbarea tehnologică a individualității consumeriste) și din exterior prin hard power, prin militarizarea accentuată a Rusiei și Chinei. În special cea din urmă pregătește folosirea inteligenței artificiale pentru a realiza supremația unei culturi foarte diferite de cea vestică, și are șanse să reușească.

Frica lui Karp față de regimurile autoritare e cea care-i hrănește poziționările sale aparent contradictorii. Karp însuși este pe jumătate evreu, pe jumătate african-american și s-a considerat în tinerețe ca fiind o țintă sigură pentru fasciști. Frica sa cu privire la cucerirea civilizației vestice de către culturi autoritare este cea care l-a determinat să investească în Palantir, dar comentatorii se amuză să arate ironia situației: un evreu de origine mixtă, școlit la cele mai bune universități americane progresiste alege să susțină regimuri care întrupează fix cele mai mari temeri ale sale.

Soluția oferită de Karp este ca societatea vestică să înceteze pacificarea forțată și atomizarea credințelor centrată pe individ și să reia fără să-i mai fie rușine promovarea unei narațiuni naționale, care ne poate ține laolaltă. Peste acest nivel de soft belief, adică suma credințelor care țin laolaltă civilizația vestică, vine și nivelul de hard power, care să apere prin tehnologie aceste credințe de militarizarea rapidă a Orientului, care nu ezită să folosească inclusiv inteligența artificială pentru a-și promova cultura și interesele.

Karp reflectă, de fapt, o poziționare conservatoare la care aderă și președintele României. Nicușor Dan avea exact aceleași argumente acum 26 de ani, în special cu privire la rolul naționalismului sentimental în fața atomizării individualismului occidental (alienant pentru el), iar politica sa externă actuală arată că a rămas fidel acestor credințe.

De altfel, ele sunt în concordanță cu ceea ce cred și simt o bună parte dintre români, dacă nu chiar majoritatea, școliți într-un sistem de educație în care naționalismul nu a fost inventat nici de comuniști, nici de legionari, ci de înșiși fondatorii statului român, de la Școala Ardeleană încoace. Aceste idealuri de final de secol XIX revin acum în actualitate din mai multe motive, cel principal fiind nevoia acută de redefinire a identității unor mari mase de oameni.

Dar poziționarea aceasta conservator-tehnologistă e doar o parte din conversație.

Două moduri de a vedea lumea: pe ce clădim republica tehnologică și digitală, pe națiune sau pe drepturile individului?

Sunt puse în contradicție astăzi două moduri de a vedea lumea. Unul vine pe filiera conservatorilor (fie ei americani sau europeni) și are un curent de centru-dreapta și unul de extremă-dreapta. Celălalt vine pe filiera social-democraților și liberalilor (de ambele maluri ale Atlanticului) și are, la rândul său, aceeași lărgime a spectrului - de la centru-stânga la extremă stânga.

În viziunea lui Karp & co, comunitatea (sub forma națiunii) este cea care definește cadrul fundamental în care ne ducem viețile - și ea e cea care trebuie apărată, cultivată și transformată într-o republică tehnologică în care sunt „îmbrățișate experiența colectivă, sensul și identitatea comună și ritualurile civice capabile să ne țină împreună”. Este, cum spuneam, o viziune care vrea să corecteze „excesele” individualismului pe care s-a clădit societatea postmodernă capitalistă de azi.

Grotescul spectacol polițienesc de 1 Mai sau cum „anti-drog” devine „anti-om”: rezultate false, trupe speciale și revolta împotriva abuzurilor 

Mascații controlează tineri pe străzile de la mare, breaking news cu sute de kilograme de droguri confiscate, 25.000 de angajați ai Ministerului Afacerilor Interne (MAI) la datorie și mesaje despre cum brațul legii nu doarme - toate împachetate laolaltă într-un exercițiu de comunicare cu elemente 1 Mai mincinos decât altul.

Ce înțelegem din reușita moțiunii de cenzură: România are oroare chiar și de aparența de reformă

Cine e câștigătorul real de pe urma acestei moțiuni de cenzură reușite și cine plătește factura acestui dezastru politic?

Dimpotrivă, în viziunea „progresiștilor”, individul și drepturile sale sunt în centrul oricărei dezvoltări tehnologice, iar republica digitală trebuie construită pornind de la respectarea acestor drepturi fundamentale, inclusiv prin intervenții puternice ale statului (prin reglementare), dacă vrem ca viitorul să fie liber și prosper pentru toată lumea - viziune expusă pe larg în cartea Republica Digitală, a lui Jamie Susskind.

Acestea sunt - în sine - poziționări ideologice absolut legitime într-o discuție democratică, iar faptul că se strigă „fascism” și, respectiv, „neomarxism” de prea multă lume nu face altceva decât să demonstreze că ne-am pierdut însuși sensul pluralismului - adică exact capacitatea de a asculta și a combate punctul de vedere opus fără a-l identifica în mod greșit cu versiunea sa extremă.

În definitiv, fiecare poziție susține că e superioară celeilalte. Deși e clar că nu sunt incompatibile, așa cum ar fi pe de altă parte acceptarea statului mafiot naționalist propus de Rusia sau statului autoritar-naționalist propus de China.

Asta nu înseamnă că cele două poziționări nu sunt lipsite de probleme.

Însuși Karp remarcă, la finalul cărții sale, că reînvierea unei povești naționale ca mod de prezervare a civilizației vestice poate duce la excese: „cultivarea unui naționalism excesiv de agresiv și lipsit de reflecție implică riscuri” (op. cit, p 217). Dar, continuă el, „respingerea oricărei forme de viață în comun are riscurile sale”.

Naționalismul clădit pe frică și pe ură (cele două elemente definitorii pentru el) este foarte diferit de naționalismul acela sentimental invocat de președintele Nicușor Dan. Din păcate, ca și în cazul comunismului, el o fi atrăgător în teorie, dar în practică a dus la niște atrocități inimaginabile.

La capătul celălalt al dezbaterii, Susskind arată că nu putem lăsa ca republica digitală să fie definită și controlată de companii, pentru că drepturile individuale stau la baza civilizației vestice și ele trebuie apărate de instituții publice care reglementează atent. Știm însă cu toții că această grijă din partea statului duce, de multe ori, la propriile sale excese.

Cele două viziuni nu sunt pur teoretice. Karp este, prin compania sa, din ce în ce mai bine înșurubat atât în administrația americană, cât și în unele țări europene. Apărarea națiunii americane contra dușmanilor săi folosește unelte AI produse de Palantir, fără ca această companie să se preocupe cumva de excesele și abuzurile comise la scară largă de autoritățile care-i folosesc tehnologia chiar împotriva cetățenilor americani.

În plus, rezultatele din Gaza, acolo unde tehnologia companiei ar fi fost folosită pentru a ținti teroriștii Hamas, pun la îndoială exact foloasele inteligenței artificiale: proporția uriașă de victime civile în jurul fiecărui terorist omorât este fie o greșeală repetată la nesfârșit a unei tehnologii imature, fie o politică genocidară potențată de AI. Oricum o dai, frumoasa teorie dă din nou de brutalitatea adusă de practică.

Unde stă răspunderea folosirii inteligenței artificiale și de ce dezbaterea nu e una pur teoretică, ci are consecințe fatale

Unde stă răspunderea? La companie, care oferă această tehnologie pentru identificarea și eliminarea dușmanilor folosind AI, ceva mult mai avansat decât o simplă soluție de țintire pentru artilerie sau chiar și decât un avion de vânătoare? Sau la autoritățile care aleg să o folosească împotriva civililor?

Palantir oferă soluții AI inclusiv guvernului ucrainean, dar nu i-am văzut pe aceștia țintind voit civili, așa cum a făcut guvernul israelian în Gaza. Aici, dezbaterea deja nu mai e una teoretică. În mod absolut clar, atât conform legilor internaționale, cât și conform legilor naționale, cine comite crime de război trebuie adus în fața legii, iar dacă o companie are de câștigat financiar în mod direct din aceste crime de război, trebuie trasă și ea la răspundere dacă se dovedește implicarea sa.

Dezvoltarea unor soluții automate de identificare și decizie asupra unor dușmani ai unei țări democratice nu poate ignora sub nicio formă respectarea drepturilor fundamentale ale omului, iar justificarea crimelor de război prin necesitățile națiunii este, într-adevăr, o formă de fascism.

De partea cealaltă, viziunea europeană asupra folosirii inteligenței artificiale și a digitalizării cu foarte multe reglementări duce la o lentoare accentuată, care lasă Europa vulnerabilă atât în fața prădătorilor estici, cât și în fața folosirii tehnologiei în slujba unei ideologii naționaliste venite dinspre americani, cu care Europa, ca întreg, nu se identifică.

Apărarea drepturilor fundamentale ale individului ca cerință de bază a dezvoltării oricărei tehnologii destinate folosirii guvernamentale este vitală pentru cultura și civilizația europeană, însă opțiunea reglementării până la moarte a spațiului tehnologic este una categoric falimentară. Și va duce, la rândul său, la pierderea a mii de vieți omenești dacă dușmanii libertății aleg să atace.

Actul legislativ privind serviciile digitale, care stă la baza strategiei europene de digitalizare, este prea stufos, prea lent și prea puțin pregătit pentru a face față provocărilor venite din ambele părți, și vine cu propriile sale probleme, în special pentru companiile mici și mijlocii care dezvoltă soluții de AI care să servească nu atât consumatorilor, cât apărării statelor europene.

Și aici ajungem la problemele noastre tradițional românești.

Palantir de România - de ce este tulburător ca o companie de AI destinat guvernului să-și apere un fondator extremist

Dacă ambele poziționări din conversația - fie ea și aprinsă - purtată între cele două viziuni asupra viitorului lumii occidentale sunt legitime și pot fi combătute de cealaltă parte cu argumente în cadrul unei obișnuite dezbateri democratice, cu totul altfel stau lucrurile cu poziționările de partea extremismului. Cu atât mai grave sunt acestea când sunt ascunse voit și apoi scuzate.

Doctrina lui Alexander C. Karp nu este una fascistă, dar acțiunile companiei sale vorbesc deja de prea multe ori de la sine atunci când vine vorba de respectarea drepturilor fundamentale ale omului. Totuși, nu-l vei vedea nici pe el, nici pe alt fondator sau membru senior al Palantir să-și pună avatare cu naziști la profil sau să ridice în slăvi astfel de indivizi prin conturi false. Ce are de zis, o zice public.

În manifestul Palantir sunt reluate două idei din cartea lui Karp, și anume frica teribilă a antreprenorilor vestici - și în special americani - de a se poziționa cumva în dezbaterea ideologică legitimă cu privire la identitatea culturală vestică.

Este o realitate suprareacția unei părți a publicului la ceea ce sunt considerate a fi abateri doctrinare de la apărarea sanctității drepturilor fundamentale ale omului (dar și a animalelor sau a mediului), sau, de partea cealaltă, a națiunii. „Nu mai poți spune nimic”, „ne sufocă cenzura”, „ne atacă trolii” - acestea sunt plângeri repetate atât din partea conservatoare, cât și din partea progresistă.

Dar o realitate este și faptul că atunci când faci apologia sau chiar te identifici cu indivizi care au comis sau instigat la crime contra umanității, pogromuri și epurări etnice deja ieși complet din spațiul unei dezbateri democratice legitime.

Iar dacă, atunci când îți sunt expuse în mod clar și fără echivoc declarațiile rasiste și apologiile unor astfel de indivizi venite din partea unui cofondator al companiei tale, precum și faptul că acestea reprezintă o activitate în formă continuată, alegi să te legi de niște tehnicalități ale investigației în loc să adresezi clar, concret și fără echivoc faptul că o astfel de persoană este esențială pentru compania ta, atunci avem realmente o problemă uriașă.

Alexander C. Karp și-a scris cartea secondat îndeaproape de mâna sa dreaptă avocățească tocmai pentru a nu-și periclita compania. Între timp, administrația Trump a mers mult mai departe cu demantelarea sistemului de checks and balances care asigura echilibrul democrației americane, iar asta l-a făcut pe Karp să abandoneze parțial aceste precauții, semn că nu-l mai sperie instalarea unui stat autoritar și arbitrar. Dar nu-l vei vedea vreodată cochetând cu gesturi naziste, chiar dacă stă des de vorbă cu naziști „pentru a-și înțelege mai bine” dușmanul.

Nu am nici informații conform cărora s-a apucat să angajeze filo-naziști în companie, doar ca să-și adapteze mai bine inteligența artificială presupusă a lupta împotriva totalitarismului sau că-i lasă în boardul companiei și le ia apărarea. Iar dacă în America nazismul și derivatele sale sunt, culmea, apărate de libertatea de expresie, în Europa lucrurile nu stau așa - poate tocmai pentru că aici s-a plătit un preț uriaș de pe urma acestei ideologii.

Companiile care dezvoltă soluții de inteligență artificiale care identifică prin sisteme automatizate dușmanii unei țări sunt obligate de legislația europeană să respecte pe toate palierele nu doar actul legislativ privind serviciile digitale, ci și drepturile fundamentale ale omului, care stau la fundamentul oricărei politici publice din orice țară membră a Uniunii Europene.

Când un fondator își creează un cont de social media sub pseudonim și cu avatarul procesat al lui Corneliu Zelea Codreanu la profil, doar ca să fie în continuare liber să distribuie în mediul online simboluri și mesaje asociate extremei drepte, orice autoritate a statului european România are obligația legală să ceară nu doar explicații, ci și acțiuni din partea respectivei companii, dacă aceasta vrea să mai aibă acces la contracte cu statul român - sau cu orice stat al Uniunii Europene.

Este cu atât mai tulburător cu cât compania al cărui acționar important este alege să-l apere până în pânzele albe în loc să înțeleagă în mod matur că nu poți dezvolta soluții dedicate apărării democrației românești și combaterii dezinformării cât timp ai în mijlocul tău și aperi o persoană-cheie care promovează exact inversul acestor valori fundamentale.

Dacă asta e mentalitatea care stă la baza viitoarelor soluții de inteligență artificială prin care România își va defini, supraveghea și poate chiar elimina inamicii, nu ne rămâne altceva de făcut decât să tragem un foarte mare semnal de alarmă.

ps.
Am moderat acum câteva zile o discuție despre AI și guvernanță, organizată de Administrația Prezidențială și concentrată pe reacțiile societății civile la digitalizarea și tehnologizarea republicii române. Voi reveni pe această temă.