L’IA dovrebbe farsi carico del lavoro di routine, ridurre i costi e accelerare le decisioni. Ma una migliore prestazione tecnica non produce di per sé un ordine sociale migliore. Per comprendere l’opposizione all’IA occorre quindi chiedersi: che cosa migliora, per chi, e a quali possibilità future di agire si rinuncia in cambio?
Prendiamo un’amministrazione pubblica che introduce l’IA per trattare le domande ricevute. Il sistema riassume i documenti e prepara le decisioni. Il personale continua a verificarle e a firmarle. Chi presenta una domanda potrebbe ricevere una risposta più rapidamente, mentre il personale potrebbe avere più tempo per i casi difficili.
La dirigenza potrebbe però destinare tutto il tempo risparmiato all’aumento del numero di pratiche da gestire. Le possibilità di verifica si ridurrebbero, mentre la responsabilità resterebbe invariata. Se il personale si oppone a questo cambiamento, non contesta necessariamente l’utilità dell’IA. Contesta che il modo scelto di utilizzare quel beneficio costituisca un miglioramento.
Una vecchia confusione
A partire dal 1811, lavoratori tessili inglesi distrussero telai e macchine per la lavorazione a maglia. Questi distruttori di macchine, noti anche come luddisti, si battevano all’inizio del XIX secolo, tra l’altro, contro il peggioramento dei salari e la svalutazione del lavoro qualificato. Avevano essi stessi familiarità con le macchine. I loro conflitti non possono quindi essere ridotti alla paura di una tecnologia sconosciuta.
Il confronto storico non giustifica la distruzione delle macchine. Rende visibile una distinzione: un modo di produrre può diventare più efficiente mentre chi fino a quel momento ne viveva perde i propri mezzi di sostentamento. Il guadagno tecnico non risponde alla questione sociale.
L’esempio dell’amministrazione riguarda un conflitto diverso. Ma anche qui richiamarsi al maggior numero di pratiche concluse non risponderebbe all’obiezione. Tempi di attesa più brevi, decisioni fondate, condizioni di lavoro praticabili e spesa pubblica devono entrare insieme nella valutazione. Nessuna di queste esigenze scompare perché il software lavora più velocemente.
Come il vantaggio di oggi cambia il domani
L’analisi dell’etica dei percorsi segue questo conflitto oltre la distribuzione immediata dei benefici. Si chiede se il nuovo modo di lavorare preservi anche la capacità di riconoscerne gli effetti successivi e di continuare a contribuire alle decisioni sul suo impiego.
Se il personale verifica meno spesso in autonomia e le nuove leve hanno poche occasioni per imparare a formulare giudizi professionali, l’amministrazione potrebbe inizialmente produrre di più e, nel lungo periodo, decidere in modo meno autonomo. Con il declino delle competenze potrebbe diminuire anche la sua capacità di influire sul fornitore tecnologico. Il diritto di approvare le decisioni resterebbe, ma esercitarlo responsabilmente diventerebbe più difficile. Questo sviluppo va indagato: non è già dimostrato dalla sola introduzione dell’IA.
Neppure la tecnologia è esente dall’esame. Le informazioni che rende accessibili e le correzioni che consente determinano le possibilità di agire. Anche i suoi scopi possono essere problematici: un’amministrazione professionalmente competente potrebbe applicare in modo affidabile una procedura i cui criteri non rendono giustizia a chi presenta una domanda. Un buon controllo non rende giusto uno scopo inadeguato.
Per l’allineamento ciò significa che non basta orientare in modo affidabile l’IA verso requisiti già stabiliti. La collaborazione deve anche permettere di modificarli quando l’esperienza offre ragioni fondate per farlo.
Che cosa dovrebbe dimostrare l’introduzione
Nell’esempio dell’amministrazione, prima di estendere l’impiego occorrerebbe dimostrare che il personale è in grado di riconoscere e correggere gli errori. Informazioni indipendenti, tempo sufficiente per la verifica e occasioni di apprendimento devono quindi far parte del piano di impiego. Se un maggior numero di pratiche può essere gestito solo eliminando queste condizioni, va modificato l’obiettivo.
Anche l’esperienza di chi presenta una domanda deve poter incidere sul processo. Se i reclami mostrano che determinate situazioni di vita vengono sistematicamente classificate in modo errato, non basta correggere singoli provvedimenti. Occorre allora riesaminare le categorie o le regole d’impiego. Deve restare possibile cambiare sistema o interromperne l’uso senza paralizzare i servizi necessari.
Ciò non richiede né professioni immutate né l’accettazione di ogni critica. La resistenza può anche difendere i vantaggi di un singolo gruppo. Ma chi elimina mansioni deve spiegare come saranno sostenuti in futuro l’apprendimento, la responsabilità e le transizioni professionali. Una promessa generica di prosperità non basta.
L’accettazione dell’IA non è dunque l’obiettivo in base al quale giudicarne l’introduzione. Conta invece che i suoi benefici si inseriscano in un assetto nel quale le persone coinvolte possano continuare a giudicare, agire e produrre cambiamenti. Se la tecnologia risponde a questa esigenza deve emergere nel tempo, non soltanto dal bilancio delle sue prestazioni.