Written by L’Intelligenza artificiale è un pericolo mortale. A dirlo preoccupati, anzi spaventati, non sono teologi apocalittici, luddisti antimoderni o filosofi tradizionali, ma i due padrini dell’IA, Yoshua Bengio e ora Geoffrey Hinton, già insigniti di quello che viene definito il Nobel dell’informatica, il Turing Award. I pentiti dell’IA lavorano per i colossi dei social: Hinton ha lasciato Google con la sua denuncia, ma anche Roger McNamee, lasciando Google, aveva denunciato la dipendenza dai social prodotta dagli usi invasivi dell’intelligenza artificiale, paragonandola alla tossicodipendenza. O Antonio Garcia Martinez, altro cervello in fuga dal cervellone tecnologico dei social, che vorrebbe non aver mai sviluppato quelle tecniche nocive.
Gli effetti prodigiosi delle sue applicazioni, la velocità con cui si propagano i suoi poteri e i suoi effetti, rendono sempre più stridente il confronto tra l’espansione tecnologica e la capacità di gestirla. Quella che in altra epoca Gunther Anders, scrivendo de L’Uomo è antiquato”, definì “il dislivello prometeico” tra tecnica e intelligenza umana. A cavallo degli algoritmi, l’Intelligenza Artificiale sta facendo passi da gigante nella sostituzione dell’intelligenza umana e va fermata, come si fermano le armi chimiche o letali. Così dicono i suoi padrini, inventori e propagatori pentiti. Parallelamente siamo sempre più indifesi dall’uso distorto o malvagio dell’IA da parte di hacker privati e colossi globali o di organismi pubblici, servizi segreti, stati canaglia, dittatori.
Il tema che l’IA cancellerà migliaia di posti di lavoro è solo un risvolto secondario e compensabile rispetto ai danni irreversibili che può produrre sul piano della sicurezza, della libertà e soprattutto dell’intelligenza umana.
Non è l’Intelligenza artificiale in sé che ci spaventa ma l’umana idiozia, l’incapacità di padroneggiare le cause e gli effetti, il delirio di onnipotenza tecnologica, che sono complici entusiasti di questo potere assoluto e potenzialmente totalitario, senza freni.
Qual è il pericolo dell’intelligenza artificiale? La sostituzione del mondo reale, delle identità e della natura, con una grande bolla in cui sparisce la realtà, e tutto ciò che la costituisce: la storia, il pensiero, la vita, la presenza, il corpo, la natura.
Ma tutto questo potrebbe ancora rientrare nel rischio dell’avventura umana, nella scommessa dell’intelligenza che sa osare e cavalcare la tigre della tecnica. L’uomo deve saper rischiare se vuol conoscere, migliorare le condizioni di vita, sviluppare la ricerca e i suoi risultati.
Ma se consideriamo il contesto in cui avviene oggi questa scommessa, allora nasce la preoccupazione.
La crescita rapida ed espansiva dell’Intelligenza Artificiale coincide infatti con la decrescita altrettanto rapida e regressiva dell’Intelligenza umana, delle sue connessioni vitali e mentali con la storia, con la tradizione, con il linguaggio, con la capacità di progettare il futuro e governare i cambiamenti; la ritirata del pensiero, oltre che della religione, il declino dell’arte e l’atrofizzazione progressiva, come in una paralisi, delle facoltà naturali, socievoli, lessicali e intellettuali dell’uomo e il calo progressivo e allarmante del Quoziente Intellettivo. Cresce la tecnica e decresce la cultura, cresce l’artificiale e sparisce il naturale, cresce il robot e declina l’umano. Si ingigantisce la forbice tra tecnica e sapere, il mondo artificiale si espande mentre si contrae la nostra capacità di conoscerlo, di capirlo e dunque di governare gli effetti.
Il pericolo non è dunque il golpe delle macchine, o semplicemente la pirateria informatica, o come qualcuno dice, l’uso che può farne il Putin di turno, ora additato in Occidente come nemico n.1 dell’umanità: ma l’autogoverno dell’Intelligenza Artificiale con la complice stupidità umana, infatuata per le macchine e per il virtuale. E dunque la perdita dell’umanità, il fatalismo tecnologico che pervade la nostra epoca, secondo cui non si può fermare o frenare nulla né cambiare corso. Se il procedere è automatico e inarrestabile, non c’è più libertà, intelligenza e dignità umana. Non è l’Intelligenza Artificiale in sé il pericolo ma la disumanizzazione radicale che si attua anche tramite essa. Non è una preoccupazione stupida. E comunque meglio restare uno stupido umano, anziché un idiota servitore e collaborazionista del robot.
Qui la riflessione si va inevitabilmente filosofica. La scienza non è fede ma ricerca, non è una religione con i suoi dogmi e i suoi comandamenti ma va sottoposta al vaglio critico. Sapere è potere, diceva Bacone, e lo ripete da secoli tutto lo scientismo militante. E’ vero, ma ci sono anche altre due forme importanti di sapere: da una parte è il sapere di non sapere, ossia la consapevolezza che ci sono cose che non sappiamo e non possiamo sapere: è il “so di non sapere” di Socrate, la dotta ignoranza di Nicola Cusano.
Ma dall’altra parte c’è pure il sapere di non potere, ovvero la coscienza dei propri limiti; non tutto è possibile, bisogna avere il coraggio e l’umiltà di fermarsi, di mettere a freno la volontà di onnipotenza e saper commisurare vantaggi e danni per l’umanità e per il mondo. Invece vige la legge di Gabor in base alla quale ciò che si può fare, si deve fare, e comunque si farà. E se non lo faremo noi lo faranno gli altri. Questo determina un’espansione automatica, inarrestabile, dell’intelligenza artificiale. Che nessuno ha oggi la forza di frenare. Al massimo si fugge spaventati, come fanno i cervelli in fuga dal cervellone. Sveglia. E coraggio…
(Panorama, n.20)
https://www.marcelloveneziani.com/articoli/fermate-lintelligenza-artificiale-e-pericolosa/
Amerei sviluppare una discussione intorno al concetto di intelligenza artificiale fissando per questa una serie di definizioni che nella vulgata vengono per lo più ignorate. Chiarendo queste definizioni si scoprirebbe forse che il fenomeno di cui paventiamo l’influenza deleteria e nociva non è che il prodotto di una serie di algoritmi che valgono nella misura in cui sono attuali e diciamo correnti nei riguardi degli obiettivi che la scoperta stessa si propone di offrire . L’uomo ha sempre il potere di cambiare questi algoritmi e cioè di adeguare il software che è alla base delle applicazioni secondo cui lavorano i robot. Mai un robot si potrà porre un problema anche se aiuterà l’uomo a risolverne tanti con una velocità che per l’uomo sarebbe impossibile persino da pensare.
Siamo di fronte a una svolta tecnologica che ci porterà dall’elaboratore seriale al neuro-calcolatore parallelo, in grado di imitare anche in termini sensoriali la capacità dell’uomo . Dalla concorrenza di n applicazioni in gara di velocità alla persistenza di elaboratori capaci di imparare e adeguarsi all’ambiente lavorando contemporaneamente su fronti diversi con un accettabile similarità ai canoni del comportamento umano. Sarà comunque sempre l’uomo a gestire il flusso di informazioni, la loro sequenza prioritaria e la genialità di algoritmi che ne faciliteranno l’azione.
Capisco i timori dei vari guru citati ma auspico contemporaneamente un livello di intervento umano sempre presente e assolutamente decisivo. La paura, troppe volte usata nella storia dell’umanità per soggiogare popoli non dovrebbe valere nell’impiego dell’intelligenza artificiale e nelle fasi storiche dello sviluppo scientifico ad essa attribuito.
Auspicabile sarà un uso opportuno dell’IA per liberare nuovi spazi e nuove frontiere nella soluzione dei problemi più pesanti senza per questo superare i limiti della utilità con svolte di chiara marca dittatoriale nocive al progresso dell’umanità.
Dopo di che vale per la I.A quello che vale per l’energia nucleare e per tutte le scoperte scientifiche il cui sviluppo e il cui utilizzo devono sempre rimanere in ambito e nella disponibilità di una efficacia misurabile a vantaggio dell’umanità.