Rimani aggiornato con WebMasterPoint
Quintarelli analizza i rischi dellintelligenza artificiale: dalle risposte plausibili ma false allimpatto sul lavoro, fino ai pericoli di affidare alle macchine la previsione dei reati.
Stefano Quintarelli, informatico veronese e pioniere dellintroduzione commerciale di Internet in Italia, ha presentato a Pordenonelegge il libro La bolla dellintelligenza artificiale, pubblicato da Bollati Boringhieri. Nel suo intervento del 18 settembre 2026 ha ridimensionato gli scenari apocalittici e spostato lattenzione sui rischi concreti: affidare decisioni a sistemi probabilistici e attribuire allintelligenza artificiale responsabilit che restano umane.
Il punto, per Quintarelli, non immaginare una macchina che vuole eliminare lumanit. Qualunque tecnologia pu produrre danni; la questione capire chi decide gli obiettivi, quali limiti vengono fissati e chi esercita i controlli. La stessa prudenza serve quando si parla di lavoro. LIA pu rimpiazzare alcune mansioni, ma da questo non deriva automaticamente una perdita complessiva di occupazione.
Quando una risposta plausibile non una verit
Un modello linguistico produce testo scegliendo, sulla base delladdestramento ricevuto, le sequenze pi probabili. Non sta necessariamente consultando una banca dati aggiornata e non controlla in autonomia la correttezza di ci che scrive.
Alla domanda Quali sono le cause di un calo delle vendite?, per esempio, un chatbot pu costruire una spiegazione ordinata e convincente, chiamando in causa i prezzi, la concorrenza o i cambiamenti nei consumi. La formulazione pu essere impeccabile. Resta per unipotesi generata dal modello, non una diagnosi sostenuta da documenti.
Qui sta il paradosso indicato da Quintarelli: lIA pu apparire autorevole proprio quando non conosce i fatti. Errori, informazioni inventate e ricostruzioni prive di fondamento rischiano di non essere individuati, anche perch la conversazione avviene in privato. Il problema diventa pi serio quando il sistema viene impiegato per il lavoro, lo studio, la salute, il credito o lorientamento politico. La fluidit del linguaggio pu essere scambiata per affidabilit.
Per verificare una risposta occorre distinguere tre momenti: la domanda sottoposta al modello, la probabilit con cui il sistema costruisce loutput e le prove esterne necessarie a valutarlo. Un risultato pu essere utile per accelerare una ricerca o indicare strade alternative. Non prende, per, il posto del giudizio umano e del controllo sui dati.
IA e lavoro: sostituzione, crescita e AI washing
Quintarelli invita a diffidare delle previsioni assolute. La sua tesi netta: ogni tecnologia elimina alcuni posti e ne crea altri. Storicamente il saldo stato spesso positivo, anche se questo non offre garanzie per il futuro dellIA. Molto dipende dal tipo di attivit coinvolta. Una mansione pu essere automatizzata soltanto in parte, mentre cresce il bisogno di supervisione, verifica, progettazione o assistenza.
La radiologia lesempio richiamato dallinformatico. LIA ha semplificato alcuni processi in un settore che sembrava destinato a subire forti perdite occupazionali. Laumento delle richieste di esami e servizi ha invece accompagnato una crescita dellimpiego. Il caso basta a mostrare che il rapporto tra automazione e lavoro non segue una linea unica.
Resta poi il fenomeno dellAI washing, cio luso dellIA come etichetta per presentare ristrutturazioni dovute anche a crisi economiche o a decisioni manageriali. Attribuire i licenziamenti alla tecnologia pu far apparire inevitabile una scelta che non lo . Per questo episodio, le fonti disponibili non offrono una stima quantitativa aggiornata e verificabile dei posti persi o creati in Italia.
Predire i reati: il limite delle decisioni automatiche
Durante lincontro si parlato anche dei modelli predittivi impiegati per individuare le persone considerate pi esposte al rischio di commettere reati. Lalgoritmo lavora su correlazioni statistiche. Una probabilit riferita a un gruppo, per, non dimostra la colpevolezza del singolo individuo.
Se quella probabilit viene trasformata in controlli pi frequenti, il sistema pu riprodurre pregiudizi e richiamare, secondo Quintarelli, la fisiognomica di Cesare Lombroso. Non un problema limitato allambito penale: riguarda anche sicurezza, giustizia, servizi pubblici, credito, salute, istruzione e selezione professionale.
Una previsione non una decisione legittima. Perch luso di un sistema sia sottoposto a controllo servono responsabilit riconoscibili, regole, verifiche e la possibilit di contestare il risultato.
La valutazione dellIA dipende quindi dal contesto e dallimpiego concreto. Trattare un chatbot o un sistema predittivo come una fonte autonoma di verit significa rimuovere i limiti del modello e ignorare gli interessi e le responsabilit di chi lo progetta e lo utilizza. La tecnologia pu aiutare a scegliere. Non ha, da sola, lautorit per stabilire che cosa sia vero, giusto o accettabile.