Planeta Urmuz - Harari despre IA (I)
Este desigur vorba despre Yuval Noah Harari, mult promovatul autor al cunoscutelor volume „Sapiens. Scurtă istorie a omenirii” (2017) şi „Homo deus. Scurtă istorie a viitorului” (2018). În 2024, i-a apărut la Editura Polirom o nouă carte, „Nexus, scurtă istorie a reţelelor informaţionale din epoca de piatră până la IA”, ocupându-se de, probabil, cea mai discutată şi disputată problemă globală a zilelor noastre, impactul inteligenţei artificiale (IA) asupra civilizaţiei umane (personal, aş extinde la problema-cadru, mult mai generală: impactul digitalizării asupra civilizaţiei, IA fiind numai vârful aisbergului, o etapă, la modă în ultimii ani). Este o carte la fel de cuprinzătoare ca cele dinainte, incitantă, operând cu o cantitate uriaşă de date, cu deducţii subtile, directă în afirmaţii, lucidă, deloc confortabilă în concluzii. Nu anunţă „apocalipsa IA”, dar… o descrie…
Nu voi face o prezentare globală a cărţii, cu atât mai puţin una detaliată, las cititorului plăcerea parcurgerii ei, dar voi relua, sintetizând, mai multe idei-fraze din text, uneori citate exacte, spre a da o imagine a „peisajului” baleiat.
IA nu este un instrument, este un agent (nu este pasiv, ci are „evoluţie” proprie). Părerea că mai multă informaţie înseamnă mai mult adevăr şi mai multă ordine este o naivitate. Adevărul şi ordinea pot fi contradictorii. („Birocraţia şi mitologia sunt amândouă esenţiale pentru menţinerea ordinii şi niciuna nu se dă înapoi să sacrifice adevărul de dragul ordinii” – pag. 79. „Alegerile apără ordinea, nu adevărul” – pag 124.) Pentru a obţine ordine, informaţia trebuie prelucrată de un sistem birocratic, care poate aluneca uşor în totalitarism şi dictatură. Informaţia are de a face cu mitologia, religia, politica. Până acum, oamenii au fost cei care produs textele, iar algoritmii doar le-au promovat (uneori cu rezultate grave: Myanmar, Brazilia), de acum şi algoritmii produc texte – pe care le propagă instantaneu. Tehnologia modernă permite democraţia la scară mare, dar şi totalitarismul la scară mare. Reţelele de calculatoare perturbă tot. Boţii care pretind că sunt oameni ar trebui interzişi, aşa cum sunt interzişi banii falşi. IA face posibilă supravegherea neîntreruptă, neobosită, pierderea intimităţii, stres şi control. Creditele sociale (aşa cum sunt ele experimentate acum în China) sunt inevitabile, ca măsură a reputaţiei sociale, comparabilă cu banii. IA este o problemă globală, nu naţională. Cursa înarmării IA şi războiul cibernetic sunt deja în desfăşurare. Asemănătoare Cortinei de fier, va apărea o Cortină de siliciu. În evoluţia IA, AlphaGO şi Facebook au fost cruciale. „Cu cât calculatoarele devin mai puternice şi mai independente, cu atât creşte pericolul” (pag. 235).
Câteva detalii despre ce s-a întâmplat în Myanmar şi Brazilia, pentru că este extrem de semnificativ (IA poate să facă rău fără cea mai mică intenţie din partea programatorului sau a algoritmului însuşi). Algoritmul de promovare a mesajelor folosit de Facebook a primit ca sarcină maximizarea numărului utilizatorilor, ratingul, în directă legătură cu reclamele, deci cu banii. Nimic neobişnuit, nici măcar blamabil – aşa e „viaţa de piaţă”. Observând că unele mesaje sunt citite de mai mulţi utilizatori, algoritmul le-a considerat de interes, le-a promovat, le-a distribuit mai mult decât pe celelalte. Un efect de avalanşă a dus la o „excitaţie socială” care a ajuns în stradă, desigur, pe fondul unor conflicte mocnite, religioase, politice, etnice – erau promovate mesaje militante, agresive, incitând la ură. Nimic rău intenţionat, nimic ilegal-imoral în ceea ce a scris programatorul şi în ceea ce a decis algoritmul, dar consecinţele au fost negative, iar Facebook a trebuit să-şi recunoască vina, să-şi ceară scuze şi să facă ajustări în algoritm.
Voi continua şi săptămâna viitoare, cartea este cu adevărat „suculentă”.
