Il bias dell’automatismo (in inglese automation bias), detto anche distorsione dell’automazione, è la tendenza delle persone a dipendere eccessivamente da sistemi automatizzati che possono portare a informazioni errate che a loro volta causano decisioni errate.
Può anche essere visto come la propensione degli esseri umani a favorire i suggerimenti provenienti da sistemi decisionali automatizzati. E (più grave ancora) a ignorare eventuali informazioni (non automatizzate) che contrastano quelle automatizzate, anche se corrette.
Il bias dell’automatismo ha diverse conseguenze. Ovviamente il più immediato è l’eccessiva dipendenza dai sistemi automatici ma non è il solo. Nel tempo ci si può abituare a ritenere i controlli manuali sempre più inutili, si può cadere preda di una forma di apatia che ti fa disinnamorare del processo mentale che controlla le cose.
In pratica non si ha più voglia di supervisionare ciò che viene deciso e fatto automaticamente. Non ti viene più spontaneo anche perché inizi a pensare che le decisioni automatiche saranno sempre le migliori. La pigrizia mentale comincia a far diventare normale il fatto di non interagire più con le macchine.
E, col tempo, smetterai anche di capire cosa sta facendo la macchina, dato che te ne occuperai sempre meno e con sempre meno interesse.
Un esempio può anche essere la dipendenza dai vari correttori automatici, sia durante l’invio di un messaggio o di una mail sia nella redazione di un documento.
E pensiamo alle persone che, pur di seguire ciò che indicava il navigatore GPS, sono finite in mare, contro un muro, controsenso in autostrada etc.
Ci sono molti esempi di disastri avvenuti negli anni per colpa di questo bias. Nel 1972 un aereo precipitò perché l’equipaggio era distratto da una spia che non funzionava e non si accorse che il pilota automatico era disattivato. Nel 1983 un altro aereo fu abbattuto per errore. E nel 1995 una nave si arenò per un problema simile. Nel 2003 due militari persero la vita a causa dell’abbattimento del loro aereo, sempre per una combinazione di errori (umano e tecnico). Gli esempi potrebbero, purtroppo, continuare per parecchie pagine ma mi fermo qui.
Il bias dell’automatismo nel marketing.
Facciamo un paio di esempi sull’automation bias in ambito commerciale.
Un servizio di streaming (Netflix, Disney+, NowTV etc.) offre un abbonamento gratuito per un mese ma, contestualmente, richiede anche l’inserimento di una carta di credito valida. In più attiva l’opzione, se non disdetta, per il rinnovo automatico al termine del periodo di prova.
Molti utenti si scordano di cancellare l’abbonamento prima della fine del periodo gratuito e finiscono per pagare per un servizio che magari non usano nemmeno. Ne avevo parlato anche nel primo libro a proposito della distorsione da omissione.
Lo stesso accade quando un negozio online ti suggerisce di impostare (magari con il miraggio di un risparmio) acquisti ricorrenti per alcuni articoli di uso quotidiano tipo detersivi o ricariche per diffusori da appartamento. Capita che, dopo aver impostato l’acquisto ricorrente, la gente si scordi di monitorare la frequenza delle consegne e quanto davvero abbia bisogno di quei prodotti. Lo so, fidatevi. Capita anche a me.
L’automatismo del rinnovo sfrutta quindi la tendenza a non monitorare attentamente le proprie iscrizioni. In alcuni casi, poi, questo bias unisce le proprie forze con un’altra bestia tremenda: il conservatorismo, quella resistenza al cambiamento di cui abbiamo parlato nel primo volume. E allora sono davvero guai seri.
Il bias dell’automatismo nella disinformazione.
Qui la questione va vista da due diversi punti di vista: l’automazione di contenuti e l’automazione del comportamento.
Per l’automazione dei contenuti possiamo considerare situazioni tipo: utilizzare algoritmi e strumenti automatizzati per diffondere molto rapidamente fake news e disinformazione su larga scala, sfruttando i social media. Bot automatici possono essere usati per diffondere messaggi identici su più account, aumentando la visibilità dei contenuti falsi. Funziona anche con i commenti (che spesso sono tutti uguali) specialmente quando servono a dare ragione a post che denigrano veicoli elettrici, riscaldamento globale o cambiamenti climatici, vaccinazioni etc.
Si usano anche, insieme all’intelligenza artificiale e ai deepfake, per creare contenuti falsi ma estremamente realistici: articoli di giornale, video o audio che sembrano provenire da fonti legittime etc. La stessa tecnologia può servire anche per indirizzare fake news a gruppi specifici di persone, basandosi sui loro dati demografici, sugli interessi online o sui loro comportamenti precedenti.
Per l’automazione del comportamento, invece, pensiamo a cose tipo un’immagine o un meme che contenga informazioni false e che poi venga condiviso in modo virale sui social network. Una cosa con un testo tipo “Se bevi un bicchiere di acqua calda con il limone ogni mattina puoi eliminare fino al 90% delle tossine dal tuo corpo”.
La natura semplice e invitante dei meme rende molto più facile la condivisione automatica che spesso avviene senza che l’utente verifichi le informazioni. Ecco l’automatismo: sfruttare la tendenza della gente a diffondere contenuti che trovano sorprendenti.
Accade anche con i messaggi delle catene di Sant’Antonio che vengono inviati (email, Messenger, Whatsapp etc.) con testi scioccanti tipo “Condividi questo messaggio con 10 persone o perderai l’accesso al tuo account”.
Si sfrutta la reazione automatica delle persone a seguire le istruzioni senza pensarci troppo. Ed è anche così che si diffonde rapidamente la disinformazione (e che ti fregano l’account).
Il bias dell’automatismo nella vita sentimentale.
In questo caso, l’automatismo sta generalmente nell’accettare senza riflettere situazioni e abitudini.
Pensiamo a una persona che continua a tollerare comportamenti abusivi da parte del partner perché è abituata a quelle dinamiche e le considera normali. L’abitudine rende purtroppo difficile riconoscere e reagire ai comportamenti tossici, portando a una continua accettazione di situazioni negative in modo automatico, senza pensarci.
Pensiamo a una persona che resta in una relazione insoddisfacente solo perché è abituata alla routine quotidiana in modo automatico e perché teme il cambiamento (bias dell’automatismo in combutta con il conservatorismo). La routine le è familiare, le dà sicurezza e ciò impedisce di valutare criticamente la relazione. Non si chiede nemmeno se sia soddisfacente, se sia utile per i propri bisogni e per i propri desideri. In questo modo si arriva a una triste stagnazione emotiva.
Lo stesso meccanismo è alla base dell’abitudine automatica a fare concessioni al partner per evitare qualunque conflitto, mettendo da parte le proprie opinioni e le proprie necessità. Se ti abitui a evitare discussioni continuando a fare concessioni, causerai mancanza di sincerità e di trasparenza nella relazione, danneggiando inoltre la tua autostima. Smettila.
Estratto da “L’arte delle fregature 2” di Lamberto Salucco





