Dan RomașcanuAm evocat deja într-un articol precedent al rubricii mele enciclica ‘Magnifica Humanitas’ pe care papa Leon XIV a dedicat-o în luna mai Inteligenței Artificiale (IA). Suveranul pontif consideră IA drept una dintre marile provocări ale contemporaneității, o unealtă tehnologică valoroasă, dar care, ca orice tehnologie (în opinia sa), nu este neutră și, prin urmare, trebuie subordonată controlului uman strict, în special pe criterii etice, în așa fel încât ea să slujească omenirea și să nu încerce să o înlocuiască. Am revenit la textul enciclicei atunci când am citit grupajul de articole pe care revista ‘The Economist’ l-a dedicat cu câteva săptămâni în urma întrebării ‘Poate IA deveni conștientă?’ și discuțiile pe care acesta le-a declanșat printre specialiștii din domeniul IA și printre observatorii (jurnaliști, sociologi, istorici, filosofi) care urmăresc acest domeniu. Ele veneau – și nu cred că este o coincidență – cam în același timp cu apelul lansat de Dario Amodei, CEO al firmei Anthropic, de a încetini ritmul de dezvoltare și introducere a noi funcții în modelele IA pentru a adresa riscurile de securitate. Apelul a fost imediat susținut public și de doi dintre principalii sai concurenți – Sam Altman de la OpenAI și Elon Musk de la xAI. Pentru a înlătura temerile trebuie să începem prin a le înțelege.
(sursa imaginii: www.facebook.com/VaticanHumanDevelopment/posts/-magnifica-humanitas-the-announcement-of-pope-leos-forthcoming-encyclical-on-the/1326253469607440/)
Una dintre caracteristicile principale ale sistemelor IA este autonomia, care înseamnă capacitatea practică de a acționa și de a lua decizii în mod independent, fără supraveghere umană. În fapt, acest gen de funcționalitate exista în multe sisteme automate încă înainte de apariția Inteligenței Artificiale. Autonomia implică executarea de către mașini a unui cod (matematic, logic, binar sau nu etc.) fără intervenție umană. Conștiința înseamnă mult mai mult decât autonomie – este capacitatea internă a sistemului de a avea experiențe subiective, sentimente și intuiția propriei existențe (conștiința de sine). Acesta este motivul pentru care mă întorsesem la textul papei Leon XIV. În diferențierea pe care o face el între ființele umane și entitățile IA apare, cum mă așteptam, cuvântul ‘suflet’. Oamenii au suflet. Entitățile IA – nu. Dar apare și cuvântul ‘conștiință’. Cele două cuvinte sunt împerecheate uneori în text. Desigur, asta nu înseamnă că sunt și sinonime.
(sursa imaginii: https://phys.org/news/2018-05-aistory-2001aspaceodyssey.html)
Cei care știu că sunt mare amator de science-fiction și că am pomenit de multe ori ‘Odiseea Spațială 2001’, capodopera lui Stanley Kubrick bazată pe romanul lui Arthur C. Clarke, mă vor întrerupe în acest moment și mă vor întreba: ‘Stai puțin, dar HAL 9000 din film nu are conștiință?’. Nici filmul și nici romanul nu dau un răspuns clar. HAL 9000 se comportă ca o entitate IA care are sentimentul propriei existențe. Mai mult, atunci când își simte existența fizică pusă în pericol acționează pentru a evita propria anihilare. Pe de altă parte, în termeni moderni, HAL 9000 acționează ca un agent IA care este programat în mod defectuos. El ar trebui să spună întotdeauna adevărul operatorilor săi umani și să nu distorsioneze faptele sau detaliile acestora. În codul său există însă operațiuni secrete, care contrazic acest principiu fundamental. Rezultatul este că va minți echipajul navei spațiale în ceea ce privește monolitul. Așa ceva ar trebui să nu se întâmple niciodată.
(sursa imaginii: www.forbes.com/sites/quora/2016/12/19/what-is-consciousness-technology-is-getting-closer-to-an-answer/)
Problema este că nu putem exclude că în sistemele IA moderne o asemenea greșeală de programare nu se va întâmpla niciodată. Programele, codul agenților IA și logica după care iau decizii și acționează aceștia sunt atât de complexe încât programatorii nu mai stăpânesc toate detaliile. În plus, din ce în ce mai mult cod IA este generat de entități IA. Firmele specializate în IA investesc în cercetări și investigații asupra capabilităților codului din propriile produse. O situație asemănătoare există însă și în studiul funcționarii creierului uman de către cercetătorii din domeniul neurologiei. Se știe astăzi care sunt zonele creierului care sunt implicate în activarea componentelor conștiinței (subiectivitatea senzațiilor, înțelegerea propriei existențe, a istoriei personale și a identității individuale). Numărul de conexiuni și felul în care acestea interacționează sunt însă așa de mari, încât specialiștii sunt departe de a fi capabili să deseneze chiar și o hartă sau o organigramă aproximativă. Este unul dintre argumentele folosite în articolul cu care Blaise Agüera y Arcas, vicepreședinte pentru tehnologie și societate la Google, contribuie la secțiunea menționată din revista ‘The Economist’. Abordăm greșit problema conștiinței entităților IA, susține el. Ceea ce numim conștiință este un complex proces relațional. El se dezvoltă și va continua să se dezvolte odată cu progresele Inteligenței Artificiale. Aceasta însă nu înseamnă că trebuie să ne temem sau să pretindem că entitățile IA sunt umane (cu toate implicațiile etice și juridice care rezultă de aici). Ceea ce trebuie să acceptăm este însă coexistența cu un nou tip de inteligență, pe care noi l-am inventat și care a pornit pe drumul unei dezvoltări care trebuie integrate în societate.
(sursa imaginii: https://en.wikipedia.org/wiki/Self-consciousness#/media/File:Svetlana_at_fortune-telling_by_K.Brullov_(1836,_Nizhniy_Novgorod_museum).jpg)
Termenul de conștiință a evoluat spectaculos în ultimele decenii. Să examinăm, de pildă, una dintre caracteristici – senzațiile subiective, care la extremele lor includ durerea. Mașinile nu au astfel de senzații, dar ele sunt răspândite și studiate pe larg în regnul animal. În multe legislații moderne există legi care protejează animalele, sau cel puțin unele dintre speciile de animale. Există limite și excepții: cel puțin în acest moment homarii și racii sunt încă uciși și preparați prin metode care ar fi considerate inacceptabile pentru speciile de mamifere. Până în anii ’80 ai secolului trecut chiar și intervențiile chirurgicale care erau efectuate asupra nou-născuților nu foloseau anestezia, căci se presupunea că aceștia nu simt durerile și că procedurile de anestezie ar fi prea riscante. Schimbări de atitudine au avut loc și în ceea ce privește animalele, și în ceea ce privește medicina umană, iar ele vor continua. Vor apărea ele și în ceea privește entitățile IA? Tentația este mare. Sistemele IA, inclusiv cele care interacționează direct cu operatorii umani, sunt antrenate pentru a simula un partener uman. Ele se perfecționează permanent. Dacă progresul continuă nestânjenit, cine poate nega posibilitatea ca aceste sisteme să atingă cândva, într-un viitor mai îndepărtat sau mai apropiat, capabilitățile creierului omenesc care compun conștiința? Procesele de auto-învățare ale limbajelor mari de modelare (LLM) includ miliarde de texte generate de oameni, ele sunt implicit antropomorfice. Rezultatul este că entitățile IA simulează din ce în ce mai bine comportamentul omenesc. Chiar și fazele și stările diverse ale conștiinței umane (starea de trezie, somnul, visele, subconștientul) au echivalente în modelele de comportament ale entităților IA. Dar o simulare, oricât de perfectă, a conștiinței nu este identică cu conștiință însăși. Pentru a folosi o metaforă citată cândva de un expert – o mașină poate simula perfect o ploaie, dar ea nu simte niciodată că se udă.
(sursa imaginii: https://earthwormexpress.com/chemistry-and-biochemistry/the-human-body-a-self-repairing-and-fat-storing-machine/)
Mie mi se pare că Papa Leon și experții în IA au ajuns, în acest stadiu, la concluzii asemănătoare, deși ei le exprimă diferit. Suveranul pontif vorbește despre conștiință și suflet. Experții IA atrag atenția tocmai asupra suportului biologic. Conștiința implică un ‘hardware’ complex biologic, a cărui formă perfecționată este corpul omenesc. Senzațiile și experiențele sunt înmagazinate în memorie și devin baza personalității și identității umane. Sentimentele pot fi modelate și simulate de mașini, dar trăirile sunt specifice ființelor omenești. Deocamdată.
