Planeta Urmuz - Harari despre IA (II)
Să continuăm a „conspecta” cartea „Nexus, scurtă istorie a reţelelor informaţionale din epoca de piatră până la IA” (Polirom, 2024), reluând un citat mai amplu, de la pagina 261, concluzie a Capitolului 8, cel cu titlul Failibilă: reţeaua greşeşte adesea, finalul secţiunii „Noii zei?”: „Noua reţea de calculatoare nu va fi nici rea, nici bună. Tot ce ştim este că va fi complet străină de noi şi că va fi failibilă. Trebuie aşadar să construim nişte instituţii care să poată ţine în frâu nu doar obişnuitele slăbiciuni umane precum lăcomia şi ura, ci şi erori radical nonumane. Nu există nicio soluţie tehnologică la această problemă. E mai degrabă o provocare politică. Avem voinţa politică de a-i face faţă?”
Câteva pagini mai departe: „GPT-4, AlphaGO şi toate celelalte sunt nişte cutii negre, cu outputuri şi decizii bazate pe lanţuri de semnale opace şi incredibil de complicate. // Apariţia unei inteligenţe nonumane insondabile subminează democraţia.” (pag. 287)
Fac aici o paranteză bibliografică, amintind un text circulat în aprilie 2025 de Dario Amodei (a lucrat la Google şi la OpenAI, a fondat apoi propria companie de IA, Anthropic, deci ştie ce spune) cu titlul „The urgency of interpretability” (poate fi găsit la https://darioamodei.com/post/), un veritabil „manifest al inteligibilităţii” programelor IA, descriind convingător opacitatea sistemelor IA şi riscurile care decurg de aici.
Revin la cartea lui Harari şi reiau din Epilog (pag. 336-337) mai multe rânduri, semnificative istoric:
„În discuţiile mele despre IA cu politicieni, precum şi cu întreprinzători din domeniul tehnologiei, istoria a fost adesea o temă centrală. Unii dintre interlocutorii mei prezentau istoria în nuanţe de roz şi erau la fel de entuziasmaţi şi de IA. Spuneau că mai multe informaţii au însemnat întotdeauna mai multă cunoaştere şi că, sporindu-ne cunoaşterea, toate revoluţiile anterioare din domeniul informaţiei au adus mari beneficii omenirii. Revoluţia tiparului nu a dus oare la revoluţia ştiinţifică? Ziarele şi radioul nu au dus la apariţia democraţiei modeme? La fel, spuneau ei, va fi şi cu IA. Alţii aveau o perspectivă mai sumbră, dar tot îşi exprimau speranţa că omenirea va ieşi cumva la liman din revoluţia IA, aşa cum am ieşit la liman şi din Revoluţia industrială.
Niciuna din perspective nu prea mă consola. Din motivele explicate în capitolele anterioare, asemenea comparaţii istorice cu revoluţia tiparului şi Revoluţia industrială mi se par deranjante, în special din partea unor oameni aflaţi în poziţii de putere, pe a căror viziune istorică se bazează deciziile ce ne modelează viitorul. Aceste comparaţii istorice subestimează şi natura fără precedent a revoluţiei inteligenţei artificiale, şi aspectele negative ale revoluţiilor anterioare. Printre rezultatele imediate ale revoluţiei tiparului s-au numărat şi vânători de vrăjitoare şi războaie religioase, nu doar descoperiri ştiinţifice, în timp ce ziarele şi radioul au fost exploatate şi de regimuri totalitare, nu doar de democraţii. Cât despre Revoluţia industrială, adaptarea la ea a implicat experimente catastrofale precum imperialismul şi nazismul. Dacă revoluţia inteligenţei artificiale ne va conduce la acelaşi gen de experimente, putem fi oare siguri că vom ieşi la liman şi de data asta?”
Închei prin a relua titlurile extrem de semnificative ale capitolelor din partea a treia a cărţii, „Politica informatizată”: Cap. 9. Democraţiile: mai putem purta o discuţie?; Cap. 10. Totalitarismul: algoritmii să aibă toată puterea?; Cap 11. Cortina de siliciu: imperiu global sau scindare globală?
Pesimist sau doar lucid? Ştiind că Yuval Noah Harari chiar ştie istorie, înclin spre prima alternativă…
