Julian Săvulescu, profesor de bioetică la Oxford: Avem nevoie de un „cip moral” pe lângă cipul care ne dă acces la toată cunoașterea omenirii

Adrian Mihălțianu

Publisher

Julian Săvulescu este un australian de origine română, profesor de bioetică și filosof recunoscut pe plan mondial pentru preocupările sale în privința eticii tehnologiilor de ultimă generație. Director al Centrului de Etică Practică la Universitatea Oxford, este considerat a fi printre cei mai de seamă gânditori în privința eticii inteligenței artificiale, a geneticii și a neuroeticii.

Am avut șansa de a sta puțin de vorbă în urma unei conferințe organizate, cum altfel, online - Kaspersky NEXT 2020, în care s-a dezbătut pe îndelete problema augmentării umane - acel proces în urma căruia Homo Sapiens se modifică pe sine pentru a fi mai puternici, mai inteligenți, pentru a trăi mai mult, mai bine și mai sănătos -, și a ameliorării umane (în care îmbunătățirile sunt preponderent de natură morală, axate pe trăsăturile umane precum empatia, altruismul etc.).

Este o problemă spinoasă, care atinge foarte multe domenii: neuroștiința, genetica, informatica, chiar și filosofia și politica.

Julian Săvulescu este unul dintre cei care susțin că avem nevoie de bioameliorare și că acest lucru se poate face inclusiv prin manipulări genetice. Deși asta oripilează o parte a societății, argumentele profesorului sunt axate pe valori profunde și nuanțate, care le scapă detractorilor. Sunt însă ele de ajuns?

În orice caz, opiniile sale sunt destinate pornirii unor conversații care, cu cât sunt amânate mai mult, cu atât riscă să ducă la radicalizare, având în vedere că tehnologia avansează oricum între timp. Vom invita la această conversație oameni din mai multe domenii și cu opinii uneori diametral opuse, pentru a putea înțelege mai ușor ce ne așteaptă.

Un studiu Kaspersky făcut pe 14.500 de adulți din 16 țări din Europa și Africa de Nord a constatat că aproape două treimi (63%) dintre respondenți ar lua în considerare îmbunătățirea corpurilor cu ajutorul tehnologiei - fie permanent, fie temporar. Italienii sunt cei mai dispuși să ia în considerare augmentarea umană (81%), iar britanicii se situează la polul opus (33%). Unii respondenți și-au exprimat chiar dorința de a-și conecta dispozitivele smartphone la corpurile lor.

Iată discuția noastră mai jos.

Chiar trebuie să îmbunătățim omenirea din punct de vedere genetic? Nu putem lăsa procesele naturale să continue ca până acum, așa cum cer unii? Chiar avem nevoie de îmbunătățiri genetice?

În primul rând, am creat un mediu foarte nenatural, în care acumulăm permanent mutații care ar fi dispărut dacă evoluția naturală și-ar fi urmat cursul. Stăm chiar mai prost din punct de vedere genetic decât am fost de-a lungul istoriei evoluției noastre, pentru că nu mai avem presiuni de selecție naturală acum.

În afară de asta, natura nu este câtuși de puțin perfectă. Doar unul din cinci embrioni ajung la naștere, cinci la sută din acești bebeluși au anomalii genetice, fiecare dintre noi avem două-trei mutații recesive care duc la boli grave, avem sute de mii de polimorfisme (mutații genetice moștenite, n.r.) care ne expun riscului îmbolnăvirii și care ne limitează capacitatea.

Câteva lucruri pe care ar trebui să le știi înainte să comanzi de pe Shein și Temu

Pe fundalul scumpirii costului vieții aproape peste tot în lume, cei doi giganți chinezi, Temu și Shein, au avut parte de o creștere masivă, datorată, în mare măsură, unor strategii agresive de preț. Însă în spatele prețurilor mici se ascund câteva detalii importante, pe care ar trebui să le știm cu toții înainte să comandăm.

Știri din cealaltă Românie. La Băile Tușnad, guvernul maghiar a donat autorităților locale o vidanjă, iar la Sibiu o directoare și-a pus aer condiționat în birou din banii pentru copii

Știri din cealaltă Românie e o revistă a presei locale concentrată pe comunități și viața lor reală, separată de ce se întâmplă la București sau chiar în marile orașe. Iată ce-am găsit săptămâna asta.

Deci natura nu are vreun scop cu noi, să trăim cumva vreo viață fericită. Suntem pregătiți din punct de vedere natural doar cât să supraviețuim pentru a ne reproduce. Dar mulți dintre noi nu vrem să trăim doar cât să ne reproducem, vrem să trăim vieți lungi și pline de sens, iar biologia noastră este un obstacol în această privință și natura nu ne va ajuta să rezolvăm această problemă.

Ați creat termenul procreative beneficence (binefacere procreativă). Cine ar trebui să decidă că e OK din punct de vedere moral să-ți îmbunătățești copiii in vitro? Cine ar trebui să aibă dreptul de a lua decizia?

Ideea binefacerii procreative este una de bun simț. Dacă ai doi potențiali copii, deci doi embrioni, ar trebui să alegi embrionul care are cea mai bună șansă de a duce o viață bună.

Când vine vorba de sănătate, oamenii fac astfel de teste, de exemplu cu privire la Sindromul Down, dar genele sunt importante nu doar pentru boli catastrofale, ci și pentru bolile pe care le poți dobândi mai târziu în viață, precum boala Alzheimer.

Genele ne influențează talentele, abilitățile, temperamentul, limitele psihologice. Argumentul meu este că ar trebui să tratăm aceste gene la fel ca pe cele care ne aduc boli. Să le alegem pe cele care ne pot ajuta copiii să aibă cele mai bune abilități pentru a trăi o viață bună.

Deci dacă un părinte alege o genă pentru psihopatie, pentru că vrea să aibă un bun boxer, ăsta e genul de alegere pe care n-ar trebui să-l poată face. Dar dacă un părinte vrea să activeze sau dezactiveze niște gene referitoare la homosexualitate sau heterosexualitate?

Asta ar trebui să fie lăsat la îndemâna părinților. Dar cred că avem nevoie, în orice caz, de un proiect care să-i informeze pe părinți și poate chiar îi ajută să aleagă.

Trebuie să avem o conversație serioasă despre ce este cu adevărat valoros și bun în viață și care sunt lucrurile către care ar trebui să ne orientăm: e mai important să fii fericit, să fii un bun muncitor, să fii mai inteligent, să ai un grad mai mare de empatie.

Nu avem această discuție din cauza relativismului cultural și a ideii că toate concepțiile despre „bine” sunt în mod egal bune.

Cred că am ajuns într-o criză în care avem nevoie de niște valori în societate și de niște constrângeri care să ghideze deciziile părinților. Dar nu cred că guvernele și comitetele lor sunt bine poziționate să ia aceste decizii.

Deci avem nu doar o criză de valori, ci și una de leadership și de guvernare.

Dar cine ar defini diferența dintre bine și rău, dintre calitățile dorite și cele nedorite, având în vedere aceste diferențe culturale?

Deja suntem în această situație. De exemplu, asociațiile celor cu deficiențe de auz susțin că surzenia nu este o dizabilitate, ci este o diferență - ei au propriul limbaj al semnelor, propria lor cultură.

Drept urmare, dezavantajele faptului de a fi surd sunt doar o consecință a modului în care este construită societatea noastră și a prejudecăților, a discriminării.

Acum, sunt de acord că multe dintre dezavantajele lor provin din modul în care e construită societatea și am scris chiar și un articol în care argumentam că toți copiii ar trebui să învețe la școală elementele de bază ale limbajului semnelor, dar chiar și atunci când dai la o parte aceste nedreptăți tot rămâi cu niște dezavantaje.

Așa că, atunci când cineva zice „eu sunt surd, partenerul meu este surd și locuim într-o comunitate de oameni cu deficiențe de auz, dar copilul nostru poate auzi, și vrem să-l surzim pentru ca să rămână o parte a comunității noastre”, atunci trebuie să luăm o decizie: îi lăsăm să-și surzească copilul sau nu?

Și unii ar putea spune că am dat un exemplu extrem, dar nu e așa. Se întâmplă deja, atunci când copiii au acces la implanturi cohleare, iar părinții refuză pe motiv că nu vor ca propriul lor copil să audă.

Deja trebuie să decidem dacă au sau nu dreptate, dacă trebuie să trecem peste decizia părinților sau să o respectăm.

Acest tip de decizii vor exploda - sunt destui care s-au născut bărbați, dar consideră că sunt femei, sau că sunt pansexuali, sau că vor să-și schimbe anumite caracteristici fizice, habar n-am, să-și pună o gogoașă pe frunte - va trebui să ne punem întrebarea: este ceva bun, ar trebui ca societatea să permită sau să încurajeze acest gen de alegeri?

Din nefericire, va trebui ne asumăm anumite responsabilități etice, ca societate, nu putem evita acest lucru. Deci este o conversație care continuă.

Nu știu ce se întâmplă în România, unde Biserica Ortodoxă este o forță conservatoare, dar știu ce se întâmplă în Australia, unde căsătoria persoanelor gay este o încă mare problemă pentru societate.

Dacă nu suntem în stare să decidem în aceste privințe, ce să mai spunem despre decizii care le-ar permite oamenilor să trăiască două sute de ani, sau să le schimbăm genele pentru a-i face mai empatici?

Ar trebui, de exemplu, să-i ajutăm pe psihopați să le pese mai mult de ceilalți? Cred că ar trebui să luăm în considerare așe ceva, dar știți, psihopatia se amestecă și în trăsătura care ne ajută să luăm decizii la rece, așa că, la un moment dat, trebuie să decidem dacă oprim intervenția și lăsăm persoana așa cum s-a născut în mod natural sau dacă folosim tehnologia și știința pentru a o schimba.

Să vorbim un pic despre proverbialul cip din creier. Se prognozează că peste câteva decenii vom avea deja o tehnologie care ne permite să comunicăm telepatic cu alții sau să accesăm întreaga bază de cunoștințe a omenirii în mod direct, ca și când am învățat-o deja pe de rost. Cum ar putea schimba asta societatea? Ar trebui să ne ducem în această direcție sau ar trebui să rămânem așa cum suntem acum, într-o rețea de creiere destul de laxă?

Sunt două probleme diferite. Una este dacă ar trebui să accesăm această informație gratis și instantaneu. Cealaltă este mintea colectivă, abilitatea de a te conecta la mințile celorlalți. Sunt două chestiuni strâns legate, dar diferite.

Vorbind puțin despre accesarea întregii baze de cunoștințe a omenirii - am scris o carte numită Unfit for the Future: The Need for Moral Enhancement (Neadaptați pentru viitor - nevoia de bioameliorare morală, apărută la Editura All), tradusă în românește de către colegul meu, profesorul Emilian Mihailov de la Universitatea din București.

În ea argumentez că am avut deja de-a face cu o enormă îmbunătățire cognitivă prin scris, citit, prin tehnologia informației, care ne-a dat acum o putere fără precedent. Dar cunoștința asta poate fi folosită, de exemplu, pentru a crea o armă biologică în stare să distrugă omenirea.

Un studiu publicat de Kaspersky arată cât de diferit este abordată ipoteza augmentării umane

Având în vedere că 1% din populație e alcătuită din psihopați, avem acum 80 de milioane de psihopați în lumea întreagă. Dacă numai unul dintre ei face așa ceva, s-a terminat cu lumea. Așa că înainte să dăm oamenilor o astfel de putere trebuie să avem fie un sistem de supraveghere, fie o ameliorare morală.

Avem nevoie de un „cip moral” pe lângă cipul care ne dă acces la toată cunoașterea omenirii. Trebuie nu doar să știm cum să facem lucrurile, dar trebuie să fim în stare să decidem și ce ar trebui să facem.

Cred că nu avem nevoie doar de îmbunătățiri cognitive, ci și morale. Deci aș fi foarte îngrijorat cu privire la un astfel de cip, pentru că ar da putere atât celor buni, cât și celor răi și tuturor psihopaților pământului.

Conectarea minților umane, sau inteligența de stup, este o idee foarte interesantă, pentru că abilitatea de a progresa din punct de vedere moral și cognitiv este dependentă de conexiunea minților umane.

Dar cred că va ridica și provocări fără precedent în privința noțiunilor sinelui, a intimității și a capacității de a controla identitatea cuiva, precum și în privința valorii identității unui individ, pe care încă nu am început să le înțelegem.

Deci nu am un răspuns clar în privința inteligenței colective și a minților conectate în rețea, dar fac parte dintr-un proiect european care analizează unele dintre problemele etice legate de autenticitate, de posibilitatea de a continua să-ți duci viața pe cont propriu, să fii autonom, chiar dacă ai o existență conectată. Cred că aceste probleme vor fi rezolvate mai târziu. Tu ce părere ai despre asta?

Am scris două cărți de ficțiune pe subiect și cea de-a doua nu se termină bine. Dar ideea asta a empatiei mi se pare de esență. Spuneți că oamenii se pot ameliora din punct de vedere moral. Totuși, și această idee are un neajuns: dictatorii, de exemplu, pot dori oameni obedienți, liniștiți, la locul lor; sunt multe culte care îi transformă pe enoriașii lor în oameni obedienți, pasivi, calmi, care acceptă fără să pună întrebări ce li se spune de sus. Deși ei se iubesc unii pe alții, se comportă ca niște zombi. E foarte dificil să definești ce este moral într-adevăr, tocmai de aceea avem nevoie de bioetică, aș zice: de unde începem și unde ne oprim cu îmbunătățirea morală?

Cred că cele mai importante întrebări pe care le avem acum ca oameni, în contextul unor avansuri științifice uriașe, sunt: ce înseamnă „o viață bună” pentru un om și ce înseamnă o „persoană morală”. Ce fel de societate vrem să creăm?

Timp de multe milenii, religia a dat răspunsurile în această privință, dar răspunsurile ei nu se mai potrivesc necesităților actuale și viitoare, pentru că ce-ți poate spune religia despre inteligența artificială sau transferul conștiinței în lumea digitală? Pur și simplu nu are ce.

Deci trebuie să începem să găsim răspunsurile, și nu pretind că le știu. Dar ce știu este că nu putem face niciun progres până nu decidem ce înseamnă o societate bună din punct de vedere moral. Și sunt convins că relativismul, care spune că frumusețea este în ochiul privitorului, că morala depinde de individ, înseamnă de fapt nihilism.

Dacă o iei pe calea asta, atunci și naziștii erau doar niște tipi diferiți de noi și atât, nu?

Dar apoi ne punem întrebarea „ce este binele”? Și ce am încercat să argumentez în Neadaptați pentru viitor este că, deși nu avem încă niște răspunsuri clare, avem elementele de bază, cum ar fi un sentiment de dreptate și de echitate, un nivel minimal de altruism și așa mai departe.

De exemplu, nu ne donăm organele după ce murim, deși ne sunt inutile, nu mai avem ce face cu ele, reprezintă un cost zero pentru noi. Deci dacă am putea ameliora trăsătura care ne îndeamnă să facem astfel de acțiuni care ne costă puțin, dar au un efect mare, atunci am putea progresa.

Ne-am da cu toții seama că putem fi beneficiarii unor acte de altruism din partea celorlalți, fără să fim nevoiți să ne jertfim viața sau să facem alte schimbări costisitoare. Asta ar fi cea mai ușoară cale.

Și cred că putem fi cu toții de acord pe acest subiect. Nu trebuie să fii un creștin, un budist sau un musulman ca să vezi cât de benefic e un astfel de principiu.

Să vorbim un pic de diferența dintre a putea și a trebui. Am putea să ne ameliorăm corpurile prin genetică și alte tehnologii și foarte probabil că vom reuși acest lucru. Dar ar trebui neapărat să-l facem? De exemplu, avem apariția inteligenței artificiale (IA), care încă nu e chiar atât de inteligentă, dar va ajunge să fie. Oare nu vom fi forțați să facem asta, să ne ameliorăm genetic și tehnologic, pentru că altfel am fi puși în pericol de către IA? Ce credeți?

Da, clar că trebuie să ne ameliorăm ca să ținem pasul cu inteligența artificială, dar în același timp trebuie să înțelegem mai clar ce înseamnă în mod concret aceste ameliorări. Ce înseamnă ameliorarea cognitivă, ameliorarea morală.

Și trebuie să înțelegem și faptul că, la urma-urmei, vrem să creăm o inteligență artificială morală, nu doar una care să aibă o putere tot mai mare doar pentru a atinge niște obiective, cum o fac computerele de acum.

Trebuie să ne asigurăm că acele obiective sunt bune. Și, odată ce IA își poate stabili singură propriile obiective, trebuie să ne asigurăm că va avea moralitatea necesară să o facă corect. Deci e important în două feluri: atât atunci când construim Inteligența Artificială, ca să ne permită să ținem pasul cu ea, cât și atunci când o folosim.

Dar oamenii nu se prea uită la aceste probleme. Dacă ne gândim la miliardele - miile de miliarde de dolari pe care oamenii le cheltuie pe dezvoltarea unui vaccin pentru Covid-19 și tratamentele de cancer - să-mi fie cu iertare, dar acestea sunt probleme mici atunci când te raportezi la traiectoria umanității și însăși existența omenirii ca atare.

Așa că primul lucru pe care trebuie să-l facem e să punem problema pe ordinea de zi. Din păcate, așa cum spui și tu, vom presa tot mai mult pe o inteligență artificială tot mai puternică și nu cred că ăsta e un lucru bun.

Ne putem imagina că, poate nu în anii 2050, dar foarte probabil prin anii 2070 vom avea prima generație de copii născuți cu implanturi care le oferă nu doar telepatia, dar și o extensie de creier - să-i zicem așa -, care le va oferi niște abilități practic fără limite comparate cu ce suntem noi în stare - cum ar fi accesarea instantanee a oricărei cunoștințe umane ca și când ar fi citit acea carte sau ar fi experimentat un eveniment anume. Astfel că diferența dintre această nouă specie și noi, cei rămași din Homo Sapiens, va fi așa de mare încât avem nevoie de aceste augmentări, aceste ameliorări morale despre care am vorbit, dar și o augmentare a empatiei. Însă empatia, în oameni, nu este doar un proces logic, ci și unul hormonal, biologic. Un cip nu rezolvă asta, nu?

Tot ce contează cu privire la ceea ce suntem este localizat în creierul nostru. Empatia, la fel ca și talentul la matematică, este o funcție a activității creierului și are o istorie evolutivă și o bază biologică.

Deci, în principiu, poți ameliora empatia atât prin procese educaționale și sociale, dar și prin neurofeedback pentru a modifica experiențele. În principiu, odată ce dezmembrezi arhitectura neuronală din spatele empatiei, ai putea stimula direct creierul sau să modifici dezvoltarea pentru a ameliora empatia.

Conform aceluiași studiu Kaspersky citat, creșterea nivelului de inteligență cu ajutorul tehnologiei a înregistrat cea mai mare popularitate în România, unde mai mult de o treime (35%) dintre respondenți ar fi interesați să-și dezvolte capacitatea creierului, urmată de Ungaria și Maroc (ambele cu 30%). Aproape jumătate (49%) consideră că este ”total” sau „în mare parte” acceptabil să folosească tehnologia de augmentare umană pentru a face oamenii mai inteligenți în general.

Deja antidepresivele precum serotonina, oxitocina și alți inhibitori schimbă caracteristicile morale. De exemplu, oxitocina te face mult mai legat de grupul tău și mult mai empatic față de el, dar mult mai puțin empatic față de alte grupuri.

Asta nu e chiar o îmbunătățire morală, dar ne arată că poți schimba aceste trăsături. Știința ne va oferi tot mai multe căi prin care putem interveni.

Unii spun chiar că empatia este ceva greșit. Oameni ca Peter Singer sau psihologul Paul Bloom au scris că empatia este un obstacol în calea progresului moral pentru că ne pasă doar de individul pe care-l vedem, nu de milioanele pe care nu le vedem. Stalin a spus că moartea unui singur om este o tragedie, dar moartea unui milion este o simplă statistică.

Avem nevoie de ceea ce numesc eu empatie reflectivă. Dar acestea sunt dezbateri de care avem nevoie, pentru că empatia descrește vizibil și ar trebui să decidem dacă ea este un lucru bun sau unul rău și dacă ar trebui să creștem nivelul de empatie în loc să-l lăsăm să scadă.

Alături de empatie, pentru că și eu cred că ea este cheia pentru a avea o rețea morală de creiere, ați mai menționat o altă idee: problema autorității. Avem deja o rețea primitivă de creiere, se cheamă social media. Nu-i vedem pe ceilalți, de multe ori doar trimitem în eter idei și reacționăm la ele, de obicei fără empatie. Dar problema autorității se referă la informație: astăzi avem atâta conținut fals tocmai pentru că informația nu poartă cu ea o etichetă pe care să scrie dacă este sau nu adevărată. Oamenii decid pentru ei înșiși dacă au încredere sau nu în acea informație. Problema e că, pe măsură ce această rețea devine mai densă și mai importantă în viața noastră, trebuie să știm cum decidem ce e fals și ce e adevărat.

Avem legi și instituții și religii formate de-a lungul miilor de ani care au controlat comportamentul uman, încercând să minimizeze părțile noastre rele și să le încurajeze pe cele bune. Ce vedem azi este faptul că tehnologia a creat social media, un spațiu în care aceste reguli și norme nu se aplică. Vezi dezinformare, bullying, tribalism, toate aceste elemente negative ale umanității sunt dezlănțuite.

Așa că trebuie să creăm acum normele și instituțiile noi pentru această lume nouă pe care am făcut-o, lumea cibernetică. Nu avem norme și nici legi în această zonă.

Asta e o provocare: noi ne creăm astăzi noi lumi pentru care nu avem reguli, abia ce le-am dat deoparte. Ar trebui să găsim o nouă modalitate de a eticheta adevărul și de a penaliza bullying-ul sau comportamentul nedemn online.

Bun. Și o ultimă întrebare, mai personală. Ce ați face dacă ați avea o speranță de viață de 400 de ani? Cum i-ați petrece înainte de a deveni ceva de nerecunoscut pentru un om de azi, că tocmai de-aia mi-am limitat întrebarea la 400 de ani.

Păi cred că în primul rând aș intra în politică și m-aș lupta să fac aceste schimbări de care am vorbit. Știi, jobul meu de bioetician a fost unul interesant, dar este unul complet inutil. Nu are impact.

Și acum sunt prea bătrân ca să schimb complet direcția, dar dacă aș avea 400 de ani înaintea mea, aș încerca să văd ce pot face în politică.

Doar politică?!

Bine, ce vreau să spun e că aș încerca să-mi clădesc o carieră care are o influență mai mare. Cariera mea de până acum a fost satisfăcătoare din punct de vedere intelectual, dar practic lipsită de putere. Cred că aș încerca o cale care poate transforma această cunoștință și înțelegere pe care le-am acumulat într-o influență reală.