Introduzione
Scriviamo continuamente a ChatGPT, pianifichiamo viaggi con Copilot, lavoriamo a stretto contatto con Claude. Sono colleghi, supporto quotidiano nel lavoro e anche nelle piccole cose della vita. Utilizziamo l’Intelligenza Artificiale per scrivere, analizzare, pianificare, decidere
Tutti i giorni.
Eppure, dietro l’apparente neutralità di queste tecnologie, si nasconde un lato invisibile: i bias cognitivi che influenzano il modo in cui usiamo l’IA e anche viceversa.
Credo che parlare di bias nel contesto AI sia oggi fondamentale perché in gioco, aldilà della qualità dei risultati, c’è la nostra capacità di prendere decisioni libere, consapevoli e giuste in un mondo sempre più gestito dagli algoritmi.
Voglio prendermi, perciò, un momento per capire cosa sono i bias, come influenzano i sistemi di Intelligenza Artificiale e cosa possiamo fare per gestirli.
Cosa sono i bias cognitivi
Se segui i miei contenuti in maniera ampia, saprai che questo non è un argomento nuovo. Ne ho parlato spesso, sia qui sul blog, che in alcuni video. Qualche anno fa ho scritto anche un libricino gratuito che raccoglie e descrive i principali bias decodificati.
Faccio, però, una piccola introduzione al tema.
I bias sono delle scorciatoie mentali del nostro cervello. Questo, infatti, è progettato per prendere decisioni rapide, agisce velocemente, con un atteggiamento che normalmente viene definito euristico. Quando questo atteggiamento cade nell’errore, allora abbiamo i bias.
Non sono quindi difetti, ma scorciatoie evolutive che ci permettono di prendere decisioni rapide senza dover analizzare ogni informazione nel dettaglio. Ci caschiamo tutti, sempre. E ti svelo un segreto: ci casca anche chi si considera molto razionale e perfino questo, paradossalmente, è un bias (l’illusione dell’obiettività).
Come funzionano gli algoritmi dell’Intelligenza Artificiale
Per capire come i bias, caratteristica super umana, influenzano anche l’IA, è utile capire come “pensa” l’intelligenza artificiale. Gli algoritmi di IA apprendono dai dati. L’algoritmo, quindi, non viene programmato e costruito riga per riga ma viene esposto a un’enorme quantità di esempi di addestramento e impara a riconoscere schemi, tendenze e insight.
Se i dati sono incompleti, sbilanciati o distorti, anche l’IA lo sarà. E poiché i dati sono fondamentalmente frutto di scelte umane, possono contenere pregiudi che l’algoritmo non fa altro che replicare.
Ecco perché la qualità, la varietà e la neutralità dei dataset sono fondamentali.
Bias e Intelligenza Artificiale
Quando utilizziamo l’IA, questi bias non scompaiono ma al contrario, si trasferiscono nei prompt che scriviamo, nei dati che usiamo, nelle risposte che riceviamo e poi interpretiamo.
Pensiamo spesso all’IA come a qualcosa di neutro, razionale, basato sui dati. La verità è che ogni sistema di Intelligenza Artificiale è stato comunque addestrato da esseri umani, con dati umani e, di conseguenza, con errori umani.
L’uso delle AI generativa (come ChatGPT, Claude, Gemini, Copilot e simili) amplifica tantissimo questo fenomeno perché non ci limitiamo a leggere risposte, ma interagiamo, facciamo domande, costruiamo insieme all’IA contenuti, decisioni, strategie. Ed è proprio lì che il nostro cervello rischia di inciampare.
Vediamo allora quattro tra i bias cognitivi più comuni quando utilizziamo l’Intelligenza artificiale.
Effetto ancoraggio
È il fenomeno per cui attribuiamo un peso sproporzionato alla prima informazione che riceviamo. Questa “ancora” condiziona tutte le valutazioni successive.
Ad esempio, cerco un paio di scarpe da corsa e in un negozio ne vedo un paio a 250 euro. Se successivamente trovo scarpe a 120 euro, il mio cervello continua a fare confronti con quell’ancora iniziale, che automaticamente è diventato il mio termine di paragone.
Questo bias si trasferisce anche nell’AI. Se per esempio chiedo a un’IA di pianificarmi un viaggio a New York e l’AI propone un budget di 200 dollari al giorno, allora quella cifra diventa il mio punto di riferimento mentale.
Ogni ristorante, hotel o attività che valuterò dopo sarà percepito come caro o conveniente in base a quel numero. Magari avrei potuto fare lo stesso viaggio con 120 dollari, ma non ci penso nemmeno più. Come posso ridurre quest’effetto, quindi?
- Prendi coscienza del fenomeno: sapere che il primo numero visto non è necessariamente il più valido
- Confronta fonti esterne e più attinenti ( come Booking, Tripadvisor etc)
- Fissa i tuoi parametri prima della ricerca
- Chiedi all’IA più opzioni (Es: proponimi tre alternative con diversi budget)
- Apri una nuova chat per resettare il contesto iniziale.
Bias di conferma
Cerchiamo, selezioniamo e ricordiamo solo le informazioni che confermano ciò in cui crediamo già. È il motivo per cui leggiamo testate che condividono le nostre opinioni e ignoriamo fonti che le contraddicono.
Se credo che la dieta vegana sia la più salutare, cercherò solo articoli, video e opinioni che rafforzano questa idea, ignorando chi la mette in discussione.
Nell’AI questo diventa un facile errore. Banalmente chiedo a ChatGPT: “Elencami tutti i vantaggi della dieta vegana” e ho già inserito il mio pregiudizio nel prompt. L’IA mi fornisce una lista, io approfondisco ogni punto, e rafforzo ancora di più la mia convinzione iniziale. Per ridurre questo bias:
- Utilizza la tecnica dei “pro e contro”: chiedere entrambi i lati della questione
- Chiedi all’IA di fare l’avvocato del diavolo (Mostrami gli svantaggi)
- Evita prompt viziati o domande chiuse (Es: Perché la corsa è lo sport migliore?)
- Ricorda che l’IA non è una fonte: serve per cercare spunti, non per validare
- Chiedi all’AI di allegare fonti affidabili da verificare manualmente.
Bias della disponibilità
Secondo la definizione di questo bias attribuiamo maggiore importanza o probabilità a ciò che ci viene in mente più facilmente. Questo spesso ci fa sembrare più probabili eventi che, in realtà, sono solo più memorabili.
Il caso tipico: vedo al telegiornale un incidente aereo. Mi convinco che volare sia pericoloso, anche se l’aereo è statisticamente il mezzo più sicuro.
Nell’AI questo avviene in diverse situazioni, ad esempio chiedo “Quali sono i 5 trend tecnologici attuali?” Ottengo una lista e costruisco un articolo o un contenuto qualsiasi solo su quei temi. Non penso, però, che ce ne possono essere altri, forse più interessanti, solo perché non erano i primi nella lista. Per evitare questo bias personalmente metto in pratica alcune prassi:
- Utilizzo più strumenti contemporaneamente: ChatGPT, Claude, Perplexity
- Espando le liste: “Dammi altri 5”, “Dammi quelli meno citati”
- Domando “Cosa manca?” o “Cosa sto trascurando?”
- Chiedo le fonti e le controllo direttamente (ricerche, paper, studi di settore).
Falsa dicotomia
Secondo questo bias, tendiamo a pensare che ci siano solo due opzioni possibili, ignorando tutte le alternative. È una semplificazione eccessiva della realtà.
O studi ingegneria o finirai a lavare piatti. In politica: o voti per me, o sarà il caos. In entrambi i casi, ovviamente, esistono decine di vie intermedie e altrettanto valide.
Nell’AI questa distorsione mentale si verifica quando siamo poco precisi nel contesto. Ad esempio, sei un docente e chiedi all’AI: “È meglio coinvolgere gli studenti con la tecnologia, oppure tornare ai metodi tradizionali?” In questo caso stai presentando due opzioni come uniche, quando esistono numerose soluzioni alternative. Per evitare questo bias:
- Scrivi prompt aperti: “Quali strategie posso usare per coinvolgere gli studenti?”
- Chiedi se le opzioni sono esclusive o possono essere integrate l’una all’altra
- Fornisci informazioni di contesto (età degli studenti, materia insegnata, obiettivi, risorse disponibili)
- Chiedi esplicitamente all’IA di esplorare opzioni non considerate in prima battuta.
Conclusioni
Ancora una volta lo dico a gran voce: l’Intelligenza Artificiale è uno strumento eccezionale, ma non può sostituire il pensiero critico. E se fino a qualche tempo fa riconoscere e gestire i bias era qualcosa di nicchia, ad appannaggio solo di esperti del settore, credo che oggi sia una competenza fondamentale per chiunque.
(Oltre ad essere un argomento affascinante).
Ogni volta che usi un’IA, fermati a riflettere. Stai facendo la domanda nel modo corretto? Stai dando eccessiva fiducia allo strumento? Stai dando qualcosa per scontato?
Le risposte a queste domande non eliminano i bias. Ti danno l’opportunità di governarli.
