L’imbuto che non stringe più

Herbert Simon lo aveva visto prima dell’AI

Herbert A. Simon, premio Nobel per l’economia nel 1978 e uno dei grandi studiosi della decisione, della razionalità limitata e delle organizzazioni, comprese molto presto che l’abbondanza d’informazione avrebbe generato scarsità di attenzione. Il suo punto non era un rifiuto della tecnologia: era il riconoscimento di un limite umano.

Quando le informazioni superano la nostra capacità di elaborarle, la qualità della decisione non cresce all’infinito. La revisione di Eppler e Mengis descrive l’information overload proprio come il punto nel quale le richieste di elaborazione eccedono le risorse disponibili, con possibili effetti su chiarezza, tempi, stress e qualità delle decisioni. Eppler e Mengis, 2004 ↗

L’AI amplia enormemente la capacità di produrre informazione. Non amplia automaticamente la nostra capacità di attribuirle peso, senso e conseguenze.

Il nuovo imbuto: più volume, non necessariamente più valore

Il punto di strozzatura non è più l’accesso ai contenuti. È il giudizio. Dobbiamo stabilire se una risposta è corretta, se le fonti sono adeguate, se manca un elemento importante, se una conclusione vale davvero nel contesto concreto e, soprattutto, chi è disposto ad assumersene la responsabilità.

Un testo ben scritto può sembrare vero. Una sintesi lineare può nascondere alternative. Una raccomandazione apparentemente oggettiva può incorporare scelte, medie e valori che non coincidono con il singolo caso. L’ordine formale dell’output non deve essere confuso con la solidità della conoscenza.

Il circuito della valutazione delegata

Qui nasce un circuito tanto comodo quanto insidioso. L’AI produce molti contenuti. Il valutatore, già saturo, li esamina rapidamente. La fatica cognitiva favorisce scorciatoie, rating, impressioni generali e conferme superficiali. Il giudizio parziale e incerto viene quindi reimmesso nel sistema, chiedendo alla stessa AI di riassumere, confrontare o scegliere.

La delega non riguarda più soltanto la produzione. Comincia a riguardare anche la valutazione della produzione. E, se non interveniamo consapevolmente, può arrivare fino alla decisione.

Raja Parasuraman e Victor Riley descrissero già nel 1997 i modi in cui l’essere umano può usare male l’automazione, abusarne o smettere di usarla. Poco dopo, Linda Skitka, Kathleen Mosier e Mark Burdick mostrarono sperimentalmente che gli ausili automatizzati possono favorire errori sia di omissione sia di commissione: possiamo non vedere ciò che il sistema non segnala oppure seguire una raccomandazione sbagliata perché proviene dal sistema. Parasuraman e Riley, 1997 ↗ · Skitka, Mosier e Burdick, 1999 ↗

Non diffidiamo sempre degli algoritmi: qualche volta li preferiamo

Si parla spesso di algorithm aversion, cioè della tendenza a rifiutare l’algoritmo dopo averne osservato un errore. Ma Jennifer Logg, Julia Minson e Don Moore hanno documentato anche il fenomeno opposto: l’algorithm appreciation. In diversi compiti le persone attribuiscono un peso rilevante al consiglio algoritmico, talvolta più che a un consiglio umano equivalente.

Non esiste quindi una sola reazione. Possiamo diffidare della macchina oppure affidarci troppo. Il discrimine non è essere favorevoli o contrari all’AI, ma riconoscere quando la fiducia è proporzionata alla qualità del sistema, del dato e del compito. Logg, Minson e Moore, 2019 ↗

Che cosa suggerisce la ricerca più recente

Una ricerca presentata a CHI 2025 da studiosi di Microsoft Research e Carnegie Mellon University ha coinvolto 319 lavoratori della conoscenza, raccogliendo 936 esempi reali di utilizzo dell’AI generativa nel lavoro. Gli autori precisano correttamente che hanno misurato soprattutto la percezione e la manifestazione del pensiero critico, non il pensiero critico come fenomeno mentale osservato direttamente.

Il risultato più interessante è la relazione tra fiducia e sforzo cognitivo: una maggiore fiducia nell’AI rispetto al compito risultava associata a una minore attivazione dichiarata del pensiero critico; una maggiore fiducia nelle proprie capacità, invece, a una maggiore attivazione. L’AI non elimina il pensiero critico, ma tende a spostarlo verso verifica, integrazione e supervisione del compito. Lee et al., 2025 ↗

Non basta saper chiedere bene. Occorre saper verificare, contestualizzare, correggere e, quando serve, rifiutare la risposta.

Rallentare può essere una funzione, non un difetto

Zana Buçinca, Maja Barbara Malaya e Krzysztof Gajos hanno sperimentato alcune cognitive forcing functions: accorgimenti progettati per costringere l’utente a impegnarsi analiticamente prima di accettare il suggerimento dell’AI. Nel loro esperimento con 199 partecipanti, questi interventi riducevano l’eccessiva dipendenza dalle raccomandazioni sbagliate, pur risultando meno graditi agli utenti.

È un’indicazione preziosa. Gli strumenti che ci proteggono dalla risposta automatica possono apparire meno comodi proprio perché reintroducono lo sforzo che stavamo cercando di eliminare. Ma, nelle decisioni importanti, un po’ di attrito cognitivo è spesso una garanzia di responsabilità. Buçinca, Malaya e Gajos, 2021 ↗

Il rischio della decisione standardizzata

Quando gruppi diversi usano gli stessi modelli, le stesse basi informative e strutture di prompt simili, le decisioni possono diventare progressivamente più uniformi. L’uniformità non è sempre un male: può ridurre arbitrarietà, accelerare processi e rendere espliciti alcuni criteri. Ma può anche comprimere eccezioni, esperienza tacita, intuizioni locali e responsabilità personale.

Il giudizio umano è imperfetto, soggettivo e talvolta incoerente. Ma contiene elementi che una risposta aggregata non possiede automaticamente: storia, valori, conoscenza del contesto, conseguenze relazionali e assunzione di responsabilità. La sfida non è sostituire l’uno con l’altra. È costruire una collaborazione nella quale la velocità della macchina non cancelli la profondità della persona.

La supervisione umana non può essere una firma finale

L’articolo 14 dell’AI Act europeo, riferito ai sistemi ad alto rischio, traduce questo principio in requisiti molto concreti. Chi esercita la supervisione deve poter comprendere capacità e limiti del sistema, riconoscere il rischio di affidamento automatico, interpretare l’output e decidere di non utilizzarlo, ignorarlo, ribaltarlo o interrompere il sistema.

La presenza formale di una persona nel processo non basta. Se quella persona non ha competenza, tempo, autorità o strumenti per dissentire, la supervisione è soltanto apparente. Commissione europea, AI Act, art. 14 ↗

Non demonizzo l’intelligenza artificiale

Io non demonizzo assolutamente l’intelligenza artificiale. La considero uno strumento dal potenziale immenso: può ampliare l’accesso alla conoscenza, velocizzare analisi, offrire punti di vista, rendere più efficiente la preparazione di materiali e liberare tempo da attività ripetitive.

Proprio perché il suo potenziale è enorme, dobbiamo usarla senza consegnarle ciò che ci rende responsabili. Il problema non è chiedere aiuto all’AI. Il problema nasce quando non sappiamo più distinguere fra una proposta e una decisione, fra una sintesi e una verità, fra un’evidenza e una formulazione convincente.

Un metodo semplice per tenere aperto il giudizio

• Definire prima il criterio: stabilire che cosa rende valida una risposta prima di leggerla.
• Separare fatti, inferenze e consigli: non trattare come equivalenti ciò che è documentato, ciò che è dedotto e ciò che è proposto.
• Chiedere l’alternativa: cercare almeno un’ipotesi che contraddica la prima soluzione.
• Verificare fuori dal sistema: controllare fonti primarie, dati e vincoli reali.
• Rendere visibile la responsabilità: chiarire chi decide e con quali conseguenze.
• Conservare il diritto di fermarsi: non trasformare la velocità in un obbligo a concludere.