Automazione o alienazione dell’umano?

computerIl progresso tecnologico ci sta offrendo molti strumenti che ci semplificano e migliorano la vita dal punto di vista materiale. Si tratta di un dato difficilmente contestabile e in certa misura anche auspicabile. Quello che forse sfugge all’attenzione collettiva consapevole è che i processi di automazione, grazie all’enorme potenza dei computer che utilizziamo, ci stanno anche condizionando e – in parte – modificando nelle caratteristiche più peculiari del nostro essere umani. E non sempre a nostro vantaggio. Queste brevi riflessioni derivano dalla lettura del libro di Nicholas Carr, La gabbia di vetro. Prigionieri dell’automazione, pubblicato nel 2015 da Raffaello Cortina Editore (l’originale è uscito nel 2014). L’autore, statunitense, esamina una consistente messe di dati e studi su alcune conseguenze non volute o minimizzate (talora per ignoranza talaltra per interesse economico) di alcuni aspetti dell’automazione in diverse attività umane. Conseguenze non sempre evidenti, peraltro, ma su cui Carr opera alcune stimolanti riflessioni economiche, etiche e – quel che più mi incuriosisce – cognitive.

Perdita di capacità

Troppo facile osservare che la ricerca del miglior risultato in termini economici e qualitativi con il minore sforzo fisico dell’uomo sia un processo storico ineludibile, che ha permesso realizzazioni pratiche enormemente più efficienti ed efficaci rispetto non solo a due secoli, ma anche a cinquant’anni fa. I luddisti non avevano nessuna possibilità di fermare il progresso tecnico-scientifico, e anche oggi non potremmo fare a meno delle macchine più o meno intelligenti che ci accompagnano. Carr tuttavia invita a riflettere sul fatto che diverso è avere computer che – per dirla in modo un po’ approssimativo – lavorino sotto il controllo di un cervello umano o che dirigano del tutto il nostro agire, sostituendoci persino nel pensare. L’auto che viaggia da sola promessa da Google che cosa ci farebbe perdere in termini di capacità intellettive e di guida? La domanda non è peregrina, visto quanto è successo nelle cabine di pilotaggio degli aerei: a causa della crescente automazione i piloti stessi hanno convenuto che le proprie competenze si sono deteriorate, un allarme condiviso anche dalla Federal Aviation Administration. E in rari casi, ma documentati, piloti divenuti incapaci di cavarsela in situazioni di emergenza – assolutamente risolvibili, ma a cui non erano più abituati – sono finiti a picco con i loro voli passeggeri.

Gli architetti hanno riconosciuto che i software di progettazione ne hanno tarpato la creatività e la capacità di trovare soluzioni innovative; lo stesso può dirsi per i medici con le cartelle cliniche elettroniche o i sistemi di aiuto alla lettura delle radiografie: utili per alcuni aspetti, ma in grado di togliere capacità di giudizio e intuizione diagnostica, un fatto che può rivelarsi pericoloso per la salute dei loro pazienti. Persino i consulenti finanziari, con l’abitudine ad affidarsi al software, diventano meno capaci di valutare correttamente i profili di rischio dei loro clienti. Istruttivo anche l’esempio della popolazione inuit del nord del Canada, che ha dovuto constatare al prezzo di tragici incidenti che l’uso dei sistemi Gps aveva causato la perdita – nei cacciatori più giovani – delle capacità di orientarsi e di fiutare i pericoli in un ambiente “estremo”, tra ghiacci e venti, che da secoli venivano acquisite a prezzo di un lungo addestramento.

Carr cita numerosi esperimenti che mostrano come, dal punto di vista cognitivo, dover fare qualche sforzo per districarsi in situazioni problematiche abbia conseguenze positive: «L’automazione tende a trasformarci da attori a osservatori. Invece di manipolare la barra di comando, guardiamo lo schermo. Questo cambiamento magari ci semplifica la vita, ma può anche inibire la nostra capacità di imparare e acquisire esperienza. Sia che l’automazione aumenti sia che dimuinuisca le nostre prestazioni in un’attività specifica, alla lunga potrebbe comunque ridurre le abilità che abbiamo o impedirci di acquisirne di nuove».

E mantenerci capaci di usare al meglio le nostre capacità e il nostro intuito può rivelarsi tutt’altro che secondario, visto che – seppur raramente – anche i sistemi automatici sbagliano o mandano segnali contraddittori. Oltre agli esempi citati da Carr, si può citare il caso capitato al tenente colonnello russo Stanislav Petrov, morto lo scorso maggio all’età di 78 anni. Addetto alla sorveglianza militare in Unione Sovietica, nel settembre 1983 non si fidò dei segnali che venivano dai radar, che indicavano missili statunitensi in arrivo contro il territorio russo: contando più sul proprio ragionamento ignorò il segnale – che si dimostrò essere un errore – ed evitò lo scatenarsi di un conflitto e di una probabile catastrofe mondiale. Che cosa sarebbe successo se le armi avessero potuto essere azionate in modo automatico? È una prospettiva – tra le altre analizzate da Carr – tutt’altro che remota: i sistemi che guidano i droni sono ormai in grado di procedere in questa direzione.

Lo sforzo per essere umani

I telefonini intelligenti sono esempi – verificabili da chiunque – dei tentativi di condizionare le nostre scelte e il nostro modo di agire: dalla banale ma pervicace correzione ortografica di parole “nostre” percepite come errori dallo strumento informatico, alle proposte di acquisti, itinerari o “amicizie” sui social network basate sui nostri dati di navigazione. Cose note, si dirà, in epoca di fake news e presunti condizionamenti addirittura sui governi degli Stati. «Se non comprendiamo – scrive Carr – le motivazioni commerciali, politiche, intellettuali ed etiche di chi crea i software che usiamo, o i limiti inerenti al trattamento automatico dei dati, ci esponiamo alla manipolazione». E nemmeno sappiamo da parte di chi, aggiunge.

«La tecnologia ha sempre sfidato l’uomo a pensare a ciò che nella sua vita è importante, a chiedersi che cosa significhi essere umano (corsivo nel testo, ndr) … Possiamo lasciarci trasportare dalla corrente tecnologica, ovunque ci porti, oppure lottare contro di essa. Resistere all’invenzione non equivale a rigettarla. Significa ridimensionarla, riportare il progresso con i piedi per terra». Si tratta dunque – scrive in conclusione Carr – di ricordare la necessità – per nostro benessere di esseri umani – di mantenerci padroni degli strumenti e non diventarne schiavi. «Anziché invitarci nel mondo e incoraggiarci a sviluppare nuovi talenti che allarghino le nostre percezioni ed espandano le nostre possibilità, le tecnologie digitali dell’automazione spesso hanno l’effetto opposto. Sono progettate per scoraggiare. Allontanano dal mondo». Viceversa «il valore di uno strumento ben fatto e ben usato non consiste soltanto in ciò che produce per noi, ma in ciò che produce in noi. Nei suoi aspetti migliori, la tecnologia apre territori nuovi». Forse, ma non è poco, anche in campo tecnologico occorrerebbe «dare priorità alle persone sulle macchine».

Annunci

Rispondi

Inserisci i tuoi dati qui sotto o clicca su un'icona per effettuare l'accesso:

Logo WordPress.com

Stai commentando usando il tuo account WordPress.com. Chiudi sessione / Modifica )

Foto Twitter

Stai commentando usando il tuo account Twitter. Chiudi sessione / Modifica )

Foto di Facebook

Stai commentando usando il tuo account Facebook. Chiudi sessione / Modifica )

Google+ photo

Stai commentando usando il tuo account Google+. Chiudi sessione / Modifica )

Connessione a %s...