Editoriale
di Ivano Maccani e Denise Boriero
Uno dei temi più gettonati, forse quello più affascinante e strategico, tra quelli che affollano il dibattito scientifico ed etico attuale, riguarda la governance umana dell’intelligenza artificiale (A.I.).
Ebbene, questa sfida, oggi attualissima e che sempre più lo sarà nei prossimi anni, viene già affrontata con grande naturalezza ed un rigoroso approccio scientifico nei romanzi di Isaac Asimov, visionario fondatore della fantascienza moderna, nato in Russia nel 1920 e morto negli Stati Uniti nel 1992.
Nei suoi numerosi saggi, esplorando il futuro dell’umanità, sviluppa ed approfondisce le implicazioni morali e sociali dell’A.I., invitando tutti a riflettere sui limiti dell’etica scientifica, delle interazioni tra esseri umani e robot e sui fattori distintivi tra uomo e macchina.
In particolare, nel testo “Io, Robot”, ambientato nella seconda metà del XXI secolo, il famoso scrittore ci parla di robot positronici – già dal 1940 protagonisti dei suoi saggi – macchine intelligenti capaci di sostituire l’uomo anche in lavori più o meno delicati come il poliziotto, il domestico, la babysitter.
Dalla lettura del romanzo emerge che questi “alleati d’acciaio” degli esseri umani devono necessariamente essere programmati nel rispetto di 3 leggi fondamentali, disciplinate in modo semplice, chiaro ed esaustivo dal “Manuale di Robotica”, 56esima edizione, ambientato nel 2058 d.C.:
- Un robot non può recar danno a un essere umano, né permettere che, a causa della propria negligenza, un essere umano patisca danno.
- Un robot deve sempre ubbidire agli ordini degli esseri umani, a meno che contrastino con la Prima legge.
- Un robot deve proteggere la propria esistenza, purché questo non contrasti con la Prima o la Seconda legge.
Una quarta legge, la c.d. “Legge zero”, aggiunta successivamente, recita: “Un robot non può recare danno all’umanità, né permettere che, a causa del suo mancato intervento, l’umanità subisca danni”.
L’obiettivo è chiaramente quello di garantire, attraverso il rispetto di queste quattro regole fondamentali, una governance umana dell’artificial intelligence.
Sempre dalla lettura del romanzo si può notare che, nonostante il rispetto delle Leggi del “Manuale di Robotica”, saltuariamente, in casi eccezionali, mostrando segni di squilibrio, alcuni robot devono essere sottoposti alle terapie di una robopsicologa per scongiurare il pericolo di gravi conseguenze per gli umani.
Pertanto, nonostante l’eccellenza scientifica, il dialogo inclusivo e il rispetto maniacale delle 4 leggi, l’autore ci descrive situazioni limite, che possono sfuggire di mano, con conseguenti seri rischi che impattano su tanti aspetti della società del 2058 d.C.
In funzione dell’incessante, progressivo ed inesorabile progresso tecnologico, numerosi esperti di AI si stanno cimentando nell’esercizio di aggiornare ed attualizzare le leggi di Asimov.
Degni di particolare attenzione appaiono i 4 principi del professore Frank Pasquale della Brooklyn Law School:
- I sistemi robotici e le Al devono essere complementari ai professionisti e non sostituirli.
- I sistemi robotici e le Al non devono contraffare l’umanità.
- I sistemi robotici e le Al non devono intensificare una corsa agli armamenti a somma zero.
- I sistemi robotici e le Al devono sempre indicare l’identità dei loro creatori, controllori e proprietari.
Ma dove ci troviamo adesso? Su quali palcoscenici l’AI ci sta celermente proiettando?
Ci saranno più opportunità o rischi?
Prevarrà la sua forza positiva o quella negativa?
Anche il Sommo Pontefice è intervenuto in materia di AI, esortando con determinazione ad utilizzarla esclusivamente come strumento complementare all’intelligenza umana e a non divinizzarla.
Premesso che “regolamentare” non significa frenare l’innovazione ma indirizzarla, lo scopo del c.d. AI Act è quello di gestirne lo sviluppo e l’utilizzo in tutti i settori. In particolare, il Regolamento UE n. 2024/1689 è un provvedimento molto complesso, che adotta un approccio basato sui rischi insiti nello sviluppo dell’AI, a cominciare da quelli minimi per finire con quelli inaccettabili.
Dal 2 febbraio 2025 sono operativi i suoi divieti, finalizzati ad evitare un utilizzo dell’AI per attività contrarie ai valori fondamentali dell’UE, come i controlli indiscriminati di massa, la manipolazione delle opinioni politiche e l’interferenza nei processi democratici.
Trattasi del primo passo nell’attuazione graduale di questo Regolamento, atteso che tutte le altre disposizioni saranno pienamente applicabili a partire dal 2 agosto 2026.
Calandoci nella realtà del nostro Paese, è in fase di esame parlamentare il disegno di legge sull’AI approvato nell’aprile 2024.
L’Agenzia per la Cybersicurezza Nazionale e l’Agenzia per l’Italia Digitale hanno attualmente funzioni di vigilanza sull’utilizzo dell’AI nel settore del commercio elettronico.
La gestione e il controllo delle fasi evolutive dell’AI sono pertanto indispensabili per scongiurarne, o quanto meno limitarne, gli effetti negativi, come la concentrazione nelle mani di pochi potenti privilegiati, la manipolazione degli utenti per guadagni personali, o per orientare l’opinione pubblica, o addirittura il suo utilizzo per programmare micidiali armi dotate di autonomia, in grado di identificare e colpire obiettivi senza intervento diretto umano.
Spostando i riflettori sullo sviluppo dell’AI, gli esperti ci dicono che siamo già oltre l’intelligenza artificiale generativa (quella di ChatGPT per intenderci) e stiamo iniziando a confrontarci con quella c.d. “degli agenti intelligenti”, in grado di sviluppare autonomamente funzioni complesse. In sostanza, tornando nuovamente sul romanzo dello scrittore visionario Asimov “Io, Robot”, possiamo affermare che siamo già nel 2058 d.C.
Sperando che la governance umana dell’artificial intelligence o, in via secondaria, le “robopsicologhe” di Asimov, siano in grado di far prevalere le opportunità sui rischi, tra non molto – sempre a detta degli esperti – sarà l’intelligenza artificiale a dare istruzioni ai robot, che pertanto raggiungeranno la totale autonomia, innamorandosi, sognando, mentendo, acquisendo pertanto capacità umane, come il giudizio morale, la creatività e l’empatia.
La speranza è che i nostri “alleati d’acciaio”, tramutandosi in una figura senza ritorno per il genere umano, non diventino pericolosi nemici in grado di mettere in discussione i loro creatori.
