L’intelligenza artificiale sterminerà l’umanità oppure guarirà il cancro e tutte le altre malattie.

Sono le due profezie opposte che ci vengono ripetute ogni giorno, entrambe pronunciate con la stessa sicurezza e senza che nessuno possa dimostrare né l’una né l’altra.

Vinay Prasad ha dedicato a questa contraddizione una riflessione⁠ che condivido.

Da qualche tempo assistiamo infatti a una singolare forma di pubblicità: le aziende che sviluppano l’intelligenza artificiale presentano i propri prodotti come strumenti straordinari e, nello stesso momento, ci avvertono che potrebbero provocare la fine dell’umanità.

«Potremmo uccidervi tutti» è uno slogan formidabile. Se una tecnologia viene descritta come tanto potente da poter annientare il genere umano, diventa più facile credere che possa sostituire il medico, il ricercatore, il programmatore, l’insegnante o il giornalista.

Questa narrazione ha anche un’altra utilità: invocare regole rigidissime che soltanto le imprese già abbastanza grandi e ricche possono permettersi di rispettare. Si mette in guardia il mondo dal pericolo, mentre si consolidano posizioni dominanti e si impedisce ai concorrenti di crescere.

Non credo che chi lancia questi allarmi sia necessariamente in malafede; molti sono sinceramente convinti che l’intelligenza artificiale possa distruggerci, altri, con la stessa convinzione, annunciano che entro pochi anni sconfiggerà tutte le malattie.

La storia della medicina dovrebbe averci insegnato una certa prudenza. Abbiamo ascoltato promesse sulla genomica personalizzata e su terapie che avrebbero curato ogni cancro. Ci avevano assicurato che le CAR-T — cellule del sistema immunitario prelevate dal paziente e modificate geneticamente per riconoscere e attaccare il tumore — avrebbero presto sconfitto gran parte dei tumori solidi. Finora non è accaduto. Queste terapie hanno ottenuto risultati importanti contro alcuni tumori del sangue, ma le attese per quelli solidi sono rimaste in larga parte deluse.

La scienza procede per tentativi, errori e correzioni. I risultati reali sono quasi sempre più lenti e circoscritti delle profezie che accompagnano ogni nuova tecnologia.

L’intelligenza artificiale può certamente provocare danni enormi. Può violare sistemi informatici, colpire reti elettriche, mercati finanziari e infrastrutture. Può facilitare la costruzione di armi biologiche, rendere più accessibili conoscenze pericolose e amplificare la capacità di manipolare virus e altri agenti patogeni.

È un rischio che non va liquidato.

Ho sempre guardato con grande preoccupazione alle ricerche di gain of function sugli agenti altamente patogeni, perché i possibili benefici non giustificano il pericolo di incidenti, errori o fughe da un laboratorio. L’intelligenza artificiale potrebbe aumentare ulteriormente queste capacità, ma da qui ad affermare che possa creare un virus capace di sterminare l’umanità il salto è enorme. Un simile agente dovrebbe essere contemporaneamente molto letale e molto contagioso, sfuggire alle difese immunitarie e conservare queste caratteristiche nel tempo. Dovrebbe anche sottrarsi alla pressione selettiva, che tende a favorire le varianti capaci di diffondersi meglio e che spesso diventano meno letali.

È quanto abbiamo osservato con Omicron: una variante più contagiosa e mediamente meno grave, che ha soppiantato i ceppi precedenti. Per sostenere lo scenario apocalittico bisogna quindi immaginare anche che non compaia alcuna Omicron e che la selezione naturale smetta di fare il proprio lavoro.

L’esperienza del Covid dovrebbe suggerirci prudenza anche su questo: qualunque sia stata la sua origine — e l’ipotesi di un incidente di laboratorio non può più essere liquidata come una fantasia — SARS-CoV-2 non ha ucciso il 99% della popolazione. Ha colpito soprattutto anziani, malati cronici, persone obese e soggetti fragili. Ha ucciso anche persone sane, ma in misura molto più ridotta. Il rischio non è mai stato uguale per tutti, nonostante una comunicazione pubblica che ha spesso finto il contrario.

Prasad osserva provocatoriamente che oggi l’aspettativa di vita è in parte risalita anche perché il Covid ha anticipato la morte di persone che, nelle diverse fasce d’età, avevano già un’aspettativa di vita inferiore alla media. È un’osservazione dura, ma ricorda una distinzione che durante la pandemia è stata spesso cancellata: contare i morti non basta, se non si considerano età, condizioni cliniche e anni di vita perduti.

Il Covid ha provocato danni gravissimi ma danni altrettanto profondi sono derivati dalla risposta adottata per contrastarlo. Abbiamo chiuso le scuole, isolato i bambini, coperto per mesi il volto delle persone, limitato le relazioni e compromesso l’apprendimento. Abbiamo introdotto il Green Pass e imposto vaccinazioni anche quando era ormai evidente che non interrompevano la circolazione del virus. Abbiamo trasformato il dissenso in colpa, deriso chi poneva domande e alimentato una frattura sociale che ancora oggi non si è ricomposta.

Le conseguenze non si misurano soltanto nei ricoveri o nei decessi: bisogna considerare il disagio psicologico, i ritardi scolastici, la solitudine, la perdita di fiducia nelle istituzioni e la polarizzazione. La risposta alla pandemia ha lasciato ferite che non possono essere cancellate attribuendo ogni critica al negazionismo.

Forse il pericolo più concreto dell’intelligenza artificiale non è la macchina che decide autonomamente di sterminarci, è la possibilità che venga utilizzata per moltiplicare propaganda, sorveglianza e manipolazione; per sommergerci di informazioni costruite su misura; per farci odiare ancora di più e rendere quasi impossibile distinguere i fatti dalla narrazione.

Durante la pandemia non è stata necessaria alcuna intelligenza artificiale per demonizzare chi dissentiva, sono bastati governi, media, piattaforme digitali e una parte della comunità scientifica. L’IA potrebbe rendere questo meccanismo più rapido, capillare e invisibile.

Non perdo il sonno pensando a un’intelligenza artificiale che lancerà tutte le testate nucleari o produrrà il virus perfetto. Mi preoccupa di più l’uso quotidiano che gli uomini faranno di questa tecnologia: concentrare potere, orientare le opinioni, sorvegliare le persone e rendere ancora più difficile il dissenso.

La storia recente ci ha già mostrato che, per provocare danni enormi, non serve una macchina impazzita, bastano esseri umani convinti di possedere la verità, strumenti abbastanza potenti e una popolazione troppo impaurita per fare domande.