Dan RomașcanuSteven Spielberg ne-a prevenit. Inteligența Artificială (IA) este o reflecție a lumii noastre, roboții și mașinile inteligente pot fi la fel de bune sau de rele precum cei care le-au creat. Suntem martorii unei interacțiuni din ce în ce mai strânse dintre noi și entitățile IA, și de multe ori îmi revin în minte detalii din cele trei filme pe care maestrul anticipației pe ecrane le-a dedicat subiectului tehnologic cel mai arzător al zilelor noastre. Uimitor, primele erau realizate cu două decenii înainte ca însuși inițialele I și A să apară pe primele pagini ale ziarelor. Astăzi voi discuta în rubrica noastră despre un film din 2026 – ‘Mercy’ al regizorului Timur Bekmambetov – care descrie un viitor apropiat în care o parte din sistemul judiciar – inclusiv funcțiile de judecători – a fost încredințat entităților IA. ‘Mercy’ mi-a amintit imediat de formidabilul ‘Minority Report’, al doilea din cele trei filme menționate ale lui Spielberg, care imagina o lume în care crimele erau prevenite prin intervenții violente ale sistemului de legi, bazate pe analiza comportamentului uman. Ce se întâmplă însă când sistemul greșește? Când un cetățean nevinovat cade în acel procentaj minuscul de eroare al oricărui sistem de calcul? Ceva mai jos voi compara cum tratează Bekmambetov și Spielberg asemenea situații. Un amănunt totuși: filmul lui Spielberg a avut premiera cu 24 de ani în urmă!
(sursa imaginii: www.imdb.com/title/tt31050594/mediaviewer/rm1592569346/)
Timur Bekmambetov s-a născut în 1961 în Kazahstanul sovietic. După un început de studii tehnice la Moscova, a fost exilat la Tașkent, în Uzbekistan, unde a făcut studii de teatru și cinema. La începutul perioadei de liberalizare s-a întors la Moscova, unde a început să facă filme în paralel cu întemeierea unei firme de publicitate cinematografică de succes. Unele dintre filme priveau critic aspecte ale istoriei recente a URSS și Rusiei, dar faima internațională și-a câștigat-o cu cele două filme fantastice bazate pe romanele lui Serghei Lukianenko, distribuite în România cu titlurile ‘Veghea de noapte’ și ‘Rondul de zi’. Succesul acestora i-a deschis calea spre Hollywood, unde se desfășoară din 2008 cea mai mare parte a activității sale. În 2022, Timur Bekmambetov a condamnat invazia Ucrainei și și-a lichidat toate afacerile din Rusia.
Acțiunea filmului ‘Mercy’ se petrece la Los Angeles în anul 2029. Răspunzând valurilor de violențe sociale și politice și nivelului crescut al criminalității, autoritățile au decis să introducă un regim juridic draconic. Crimele sunt judecate de sistemul de tribunale ‘Mercy’. Traducerea ar fi ‘îndurare’ sau ‘clemență’ – dar numai despre asta nu este vorba. Orice cetățean care este suspectat de o crimă și a cărui vinovăție este evaluată de algoritmii IA ca având o probabilitate de peste 80% este arestat, țintuit într-un scaun și judecat. Dacă procentajul vinovăției evaluate este de peste 92%, el va fi condamnat. Acuzatul are la dispoziție 90 de minute în care poate demonstra că sistemul greșește. În acest timp are acces la toate datele rezultate din supravegherea permanentă a vieților tuturor cetățenilor, inclusiv a sa. Spre deosebire însă de principiile sistemului juridic din țările democratice, prezumpția este de vinovăție, și acuzatul este cel care trebuie să demonstreze că este nevinovat, sau măcar să scadă probabilitatea vinovăției sub limitele condamnării. Daca eșuează, la finalul celor 90 de minute, verdictul va fi automat și executarea va fi imediată.
(sursa imaginii: www.imdb.com/title/tt31050594/mediaviewer/rm2934746626/)
‘Mercy’ este un film de acțiune. Eroul principal este detectivul Chris Raven (interpretat de actorul Chris Patt), de profesie polițist, care este un adept și entuziast executant al sistemului tribunalelor ‘Mercy’ până în ziua când se trezește țintuit pe scaun și acuzat de uciderea soției sale. În fața sa se află imaginea virtuală a judecătoarei Maddox (interpretată de actrița suedeză Rebecca Fergusson), care în fapt este doar o interfață grafică (stil chatbox cu video) a entității IA. Toate indiciile par a-i indica vinovăția. El însuși nu-și amintește nimic, deoarece aflat într-o criză personală revenise la băutură și, în plus, fiica sa adolescentă, traumatizată de moartea violentă a mamei, este manevrată împotriva lui de părinții soției ucise. Se declanșează o cursă contra cronometru, desfășurată în timp real, cu timerul celor 90 de minute alocate procesului ‘Mercy’ prezent mai tot timpul pe ecran. Timur Bekmambetov este un pionier al curentului ‘screenlife’, o reflectare a migrării vieții oamenilor (sau măcar a multora dintre noi) către lumea digitală a gadgeturilor mobile. Într-un film ‘screenlife’, spectatorii văd acțiunea desfășurându-se din perspectiva computerelor, tabletelor sau smartphone-urilor folosite de personaje. Se poate spune că în ‘Mercy’ avem de-a face cu extrapolarea distopică a acestui procedeu. Ceea ce vede acuzatul în proces este în întregime produsul sistemelor computerizate. Ele îi vor decide soarta. Dialogul dintre judecătoare și acuzatul țintuit în scaun mi s-a părut fascinant. Chris Patt este un actor de acțiune, și a fi restrâns în mișcări și obligat să caute adevărul și dreptatea cu alte mijloace decât cele fizice este pentru el o provocare bine asumată.
(sursa imaginii: www.imdb.com/title/tt31050594/mediaviewer/rm2867637762/)
Mi-a plăcut filmul lui Bekmambetov, dar comparația dintre ‘Mercy’ și ‘Minority Report’ este inegală. Este cea dintre un film bun și o capodoperă. Punctele de plecare sunt similare – un ofițer al legii cu un trecut problematic devine victimă a algoritmilor justiției bazate pe IA. Dacă nu reușește să-și demonstreze nevinovăția în timpul scurt și limitat aflat la dispoziție, va fi lichidat tocmai de sistemul pe care-l susține și din care face parte. De aici apar însă deosebirile. În ‘Minority Report’ este vorba despre prevenirea crimelor înainte ca ele să fie comise, în ‘Mercy’ despre pedepsirea lor. Filmul lui Spielberg pune o întrebare filosofică mai profundă, legată de echilibrul dintre liberul arbitru și predeterminism. A cunoaște viitorul ne permite să-l schimbăm? ‘Mercy’ vizează anxietățile contemporane ale erei inteligenței artificiale, examinând ce s-ar putea întâmpla dacă lumea ar preda în întregime datele de supraveghere și judecata legală unor algoritmi informatici lipsiți de sentimente. Eroul principal din ‘Minority Report’, Anderton se bazează pe un element uman („raportul minoritar” sau o viziune dizidentă a utilizării judecaților preventive) pentru a găsi o breșă în sistem. Chris Raven, eroul din ‘Mercy’, primește acces nelimitat la arhivele de supraveghere ale Inteligenței Artificiale, transformându-se practic într-un supra-detectiv care trebuie să-și sacrifice intimitatea și libertatea proprie pentru informații care să poată convinge mașinăria de eroare. Sunt diferențe de limbaj cinematografic și de putere de evocare vizuală. Deși realizat în 2002, ‘Minority Report’ se bucură de o expresivitate care o depășește pe cea a limbajului sec al școlii ‘screenlife’, și-l are în plus, ca actor în rolul principal, pe Tom Cruise.
(sursa imaginii: www.imdb.com/title/tt0181689/mediaviewer/rm1460867840/)
În schimb, ‘Mercy’ mi se pare foarte actual ca avertisment. Lumea în care ne aflăm este, în din ce în ce mai mare măsură, o lume bipolară, în care două mari superputeri concurează în diferite domenii printre care tehnologiile avansate. China este una dintre acestea, și nu este o democrație. Progresele făcute de China în robotică și IA sunt spectaculoase și în multe ramuri republica, încă condusă de un partid comunist unic, este lider. A produs, în anul 2024, 300 de mii de roboți, aproape jumătate din producția mondială. O parte dintre roboții produși de China sunt dotați cu sisteme IA și 10 mii dintre ei vor fi folosiți până la sfârșitul anului 2026 de organizații guvernamentale. Senzorii care furnizează informații sistemului sunt prezenți peste tot. China integrează profund inteligența artificială în întregul proces judiciar. Sute de milioane de camere video cu funcții de recunoaștere facială, analiză a mersului și urmărire automată sunt folosite pentru a monitoriza cetățenii, vizând în special regiunile minoritare precum Xinjiang. Algoritmii semnalează comportamentele considerate anormale din punct de vedere politic sau social, încercând în mod activ să prevină protestele sau mișcările dizidente. Judecătorii și procurorii folosesc modele lingvistice mari și instrumente de învățare profundă (cum ar fi „recomandările de cazuri similare”) pentru a genera documente juridice, a verifica consecvența probelor și a sugera verdicte. Deoarece instrumentele judiciare cu inteligență artificială sunt proiectate de stat pentru a se alinia standardelor oficiale ale urmăririi penale, acestea contribuie la ratele de condamnare excepțional de ridicate ale Chinei. Dar chiar și în aceste tribunale, numite uneori ‘tribunale inteligente’, judecătorii sunt încă, cel puțin până în acest moment, funcționari umani. Partidul Comunist nu dorește, probabil, să slăbească controlul politic direct asupra tribunalelor.
(sursa imaginii: www.inspiritai.com/blogs/ai-student-blog/ai-in-criminal-justice-how-it-can-become-biased)
Imixiunea IA în sistemele juridice și de apărare a legilor nu este însă o caracteristică doar a sistemelor autoritare. Camere video pentru urmărire, supraveghere și identificare legate la sisteme IA există în toate marile orașe ale lumii, în aeroporturi, în mall-uri, pe străzi mai mari sau mai mici, la intersecții, lângă sau în locuințe. Ele au ca scop paza, prevenirea infracțiunilor, lupta împotriva crimelor și a terorismului. Fapt este că o cantitate uriașă de date particulare este accesibilă acestor sisteme. Tribunalele, judecătorii, procurorii și avocații din sisteme judiciare ale democrațiilor folosesc și ei din ce în ce mai mult digitalizarea și sistemele IA. Scopul principal este eficiența. Instanțele și agențiile guvernamentale utilizează transcrierea vorbirii în text, traducerea automată a documentelor și software de gestionare a cazurilor pentru a reduce restanțele – o tară comună tribunalelor din multe țări. Poliția folosește instrumente de IA pentru a scana criminalistica digitală, a îmbunătăți imaginile neclare, a analiza datele telefoanelor mobile și a detecta tiparele criminalității. O parte dintre acestea sunt acceptate ca probe la tribunal. Unele jurisdicții utilizează scoruri algoritmice de risc de recidivă în evaluarea riscurilor eliberărilor pe cauțiune și stabilirea sumelor cauțiunilor, deși aceste metode sunt puternic contestate din cauza prejudecăților istorice rasiale și socioeconomice. Nu doar tribunalele, ci și cetățenii încep să folosească unelte IA în proporții din ce în ce mai serioase. În Anglia se vorbește despre o adevărată ‘inundație a agenților’, adică despre folosirea agenților IA pentru a redacta obiecții, apeluri, cereri de drepturi cu justificări solide și corect argumentate, bazate pe date accesibile public. Creșterea cantitativă anuală a numărului acestor acte în sistem este evaluata la 25%, dar este vorba și despre o creștere calitativă. Vor sufoca ele sistemul juridic?
Deocamdată, dreptul de a judeca și de a fi judecat este încă rezervat oamenilor. Sistemele IA nu sunt capabile de empatie sau emoție. Ele nu pot privi în față o persoană, nu pot înțelege și evalua durerea, regretul sau disperarea. Le lipsește raționamentul juridic, căci asocierea statisticilor cu datele nu înseamnă înțelegerea sensului mai profund al legii. De asemenea, le lipsește discreția judiciară, adică intuiția și autoritatea de a lua hotărâri corecte în situații noi, care nu există în arhivele judiciare. Cel mai important, instanțele au nevoie de o ființă umană care să-și asume răspunderea. Organizații precum UNESCO subliniază faptul că Inteligența Artificială ar trebui să acționeze doar ca un instrument de sprijin pentru sistemul judiciar.
Deocamdată!
