Geoffrey Hinton, Premio Nobel per la fisica 2024 sull'intelligenza artificiale

Geoffrey Hinton, Premio Nobel per la fisica 2024 per i suoi studi sull’Intelligenza Artificiale (reti neurali e machine learning)

Condivido con voi, come spunto di riflessione in chiusura di questo anno scolastico, il discorso del Prof. Geoffrey Hinton pronunciato in occasione del ritiro del Premio Nobel nel dicembre 2024. Trovate qui il link al video.

“Quest'anno i comitati Nobel per la Fisica e la Chimica hanno inteso premiare il progresso straordinario compiuto nell’ambito di una nuova forma di Intelligenza Artificiale che impiega le reti neurali artificiali per apprendere come risolvere complessi problemi computazionali. 

Questa nuova forma di IA eccelle nella modellazione dell’intuizione umana invece che del ragionamento umano; ci permetterà di creare assistenti altamente intelligenti e competenti, che aumenteranno la produttività in quasi tutti i settori. Se saremo in grado di distribuire equamente i benefici di questo incremento produttivo, allora si tratterà di un progresso meraviglioso per tutta l’umanità.

Purtroppo, il rapido sviluppo dell’IA comporta numerosi rischi a breve termine. Ha già creato “camere dell’eco”(1 ) divisive offrendo contenuti che suscitano indignazione. È  già utilizzata da governi autoritari per la sorveglianza di massa e da criminali informatici per attacchi di phishing. In un futuro prossimo, l’IA potrebbe essere impiegata per creare nuovi terribili virus e armi letali orrende in grado di decidere autonomamente chi uccidere o mutilare. Tutti questi rischi a breve termine richiedono un’attenzione urgente e decisa da parte dei governi e delle organizzazioni internazionali.

Esiste anche una minaccia esistenziale a lungo termine, che si delineerà nel momento in cui creeremo esseri digitali più intelligenti di noi. Oggi non sappiamo se saremo in grado di mantenerne il controllo. Ma abbiamo le prove del fatto che, se saranno creati da aziende motivate dal conseguimento di profitti a breve termine, la nostra sicurezza non rappresenterà la loro priorità. 

Vi è un bisogno urgente di ricerca su come impedire che tali nuovi esseri siano mossi dal desiderio di prendere il controllo. Non sono più fantascienza”.

G. Hinton

(1) dall’inglese echo chambers:  è un ambiente – reale o virtuale – in cui una persona entra in contatto quasi esclusivamente con opinioni, informazioni e punti di vista che confermano le proprie convinzioni, evitando o escludendo automaticamente idee opposte o divergenti. Nelle camere dell’eco digitali, come ad esempio quelle create dagli algoritmi dei social media, i contenuti sono selezionati in base ai gusti e alle interazioni dell’utente, rafforzandone le opinioni e contribuendo a una visione distorta e polarizzata della realtà.