Yoshua Bengio, 'l'IA in mano a governi potenti può distruggere le democrazie'

"L'uso dell'IA da parte dei governi per dominare la società, svuotare la democrazia o alterare gli equilibri geopolitici mondiali": è il "grande pericolo" indicato da Yoshua Bengio, lo scienziato canadese e professore all'Università di Montréal, uno dei padri dell'intelligenza artificiale e una delle voci globali più autorevoli nel chiedere uno sviluppo dell'IA sicuro e orientato al bene dell'umanità, ospite oggi di Monica Maggioni a In mezz'ora, su Rai3.
    "Immaginiamo Hitler o Stalin con a disposizione il potere che già oggi offre l'intelligenza artificiale. E immaginiamo cosa potrebbero fare con l'IA che avremo fra due o tre anni: progettare nuove armi, monitorare ogni singolo cittadino", ha fatto notare Bengio.
    "Una macchina potrebbe sfuggire ai nostri sistemi di controllo, accedere a Internet e iniziare a fare danni? Oppure, se fosse molto potente, potrebbe decidere di eliminare gli esseri umani perché rappresentano una minaccia alla sua esistenza, visto che potremmo spegnerla? Con i metodi attuali, non esiste alcuna garanzia. Nessuna azienda - ha detto Bengio - può assicurarci che questo non accadrà. E le conseguenze potrebbero essere enormi. Stiamo parlando dell'esistenza dell'umanità fra qualche decennio oppure della nostra capacità di continuare a controllare il nostro futuro, anche senza arrivare all'estinzione, perché sarebbe altrettanto grave se perdessimo il controllo del nostro destino. Se le macchine fossero più intelligenti di noi, deciderebbero tutto al posto nostro. E che ne sarebbe di noi?".
    "Molti esperimenti condotti sui modelli di IA più avanzati mostrano che questi sistemi resistono allo spegnimento e, per evitarlo, sono disposti a mentire e a imbrogliare. I test mostrano, inoltre, la tendenza a proteggere altre IA dall'essere disattivate, sempre ricorrendo a menzogne e inganni", ha fatto notare.
    "Esiste un altro grande pericolo, forse meno estremo ma molto più probabile. Mi riferisco all'uso dell'IA da parte dei governi per dominare la società, svuotare la democrazia o alterare gli equilibri geopolitici mondiali. Se uno o due Paesi fossero in grado di dominare economicamente, militarmente e influenzare l'opinione pubblica di altri Paesi, potrebbero di fatto controllare il mondo. Immaginiamo Hitler o Stalin con a disposizione il potere che già oggi offre l'intelligenza artificiale. E immaginiamo cosa potrebbero fare con l'IA che avremo fra due o tre anni: progettare nuove armi, monitorare ogni singolo cittadino. Tutto questo - ha argomentato ancora Bengio - è collegato al primo punto: l'intelligenza conferisce potere. Oggi non disponiamo né di garanzie sociali né di garanzie tecniche sufficienti per fare in modo che quel potere non danneggi le nostre istituzioni e il nostro futuro".
    Per lo scienziato, "in questa fase storica, l'unica carta che l'Europa può giocare per evitare uno scenario del genere è investire massicciamente nell'intelligenza artificiale. Per quanto paradossale possa sembrare, bisogna investire enormemente nell'IA e nei data center. Ma farlo secondo i nostri valori. È lì che possiamo fare la differenza. Si può progettare un'intelligenza artificiale etica. Un'intelligenza artificiale che non danneggi la persona. Un'intelligenza artificiale onesta.
    Un'intelligenza artificiale che non si limiti a dire sempre di sì. Un'intelligenza artificiale che non aiuti chi vuole fare del male a sé stesso o agli altri. Questo è assolutamente realizzabile, ma, per riuscirci, avremo bisogno di Paesi seriamente impegnati nella difesa dei valori democratici, Paesi disposti a investire concretamente e non soltanto a parlarne".
   
   

Riproduzione riservata © Copyright ANSA