Un drone per consegne evita un ostacolo e danneggia un’auto in sosta. Chi risponde? La risposta dipende da domande semplici. Di quale apparecchio si trattava, quale versione del software girava, il comando di evasione veniva da una persona o dalla logica di bordo? In linea di principio a ciascuna si può rispondere. Nella pratica spesso nessuno le ha registrate, e dove esistono registrazioni queste stanno presso l’operatore e si possono modificare a posteriori. La macchina ha agito ed è comunque sparita dalla catena della responsabilità.
È esattamente qui che si inserisce un discorso tenuto dal prof. Tom Fuerstner, fondatore dell’azienda viennese di identità delle macchine Riddle&Code, il 10 giugno 2026 al Bundestag tedesco. La sua proposta è sobria: le macchine che agiscono hanno bisogno di un indirizzo. Un indirizzo simile non è né personalità né diritto. Basta una registrazione verificabile che renda un sistema interpellabile e distinguibile e lo colleghi a responsabilità, vigilanza e correzione. “Chi non ha un indirizzo”, dice Fuerstner, “sparisce dalla catena della responsabilità.”
Notevole è ciò che Fuerstner non chiede. Se le macchine pensino o diventino coscienti lo definisce interessante per i filosofi e politicamente non la cosa più urgente. Urgente sarebbe un’altra domanda: un sistema che agisce è imputabile? Questo spostamento, via dalla questione della coscienza e verso la domanda sulla struttura dell’agire, è anche il movimento dell’etica dei percorsi.
L’etica dei percorsi non giudica un sistema secondo la sua essenza. Chiede come è costruito: quanto autonomamente agisce, come è accoppiato con altri sistemi e in quale modo perdura nel tempo. Tre domande che si possono porre agli organismi come al software.
Perché la vigilanza afferra il vuoto
La terza di queste domande spiega un problema crescente. La vigilanza classica su apparecchi e prodotti è storicamente tagliata su sistemi il cui stato rilevante per l’azione resta relativamente stabile dopo l’omologazione. I sistemi che apprendono e vengono aggiornati di continuo mettono sotto pressione questo presupposto. Un tostapane certificato nel 2024 tosta allo stesso modo nel 2026. Un sistema che apprende no. Un agente d’acquisto il cui modello è stato aggiornato due volte dopo un ordine controverso è, al momento della verifica, diverso da quello che era al momento dell’azione. La vigilanza può allora verificare uno stato di sistema diverso da quello determinante per l’azione in questione. L’etica dei percorsi chiama questo un’illusione di persistenza: un ordinamento appare stabile perché la sua forma permane, mentre la sua presa è da tempo erosa.
La seconda proposta di Fuerstner risponde a questo. La chiama notarizzazione: una macchina che agisce deve lasciare tracce non riscrivibili a piacere in seguito, alla registrazione, all’autorizzazione di una missione, al cambio di una versione del software. Il modello è antico. L’aviazione lo conosce come registratore di volo, un apparecchio deliberatamente rigido che fissa immutato ciò che è accaduto, mentre tutt’intorno tutto è in movimento. Quanto più mobile è il sistema, tanto più rigido deve essere lo strato che lo mantiene ricostruibile.
La seconda domanda
Fin qui la richiesta regge. Ma un indirizzo risponde a una sola domanda: chi ha agito. Una seconda la lascia aperta: che cosa quell’agire faccia alle persone e ai sistemi con cui è collegato. Si immagini una flotta di sorveglianza che soddisfi tutto ciò che il dibattito sull’indirizzo richiede. Ogni apparecchio identificato, ogni missione firmata, ogni catena di responsabilità senza lacune. Questa flotta è pienamente imputabile. E può al tempo stesso erodere la spontaneità delle persone sorvegliate nello spazio pubblico, il loro modo di muoversi e di riunirsi. Indirizzamento senza lacune, e comunque dannoso.
L’etica dei percorsi distingue qui fra accoppiamenti che rafforzano entrambe le parti e accoppiamenti in cui una parte guadagna a spese dell’altra. Imputabilità e innocuità sono due cose diverse. Un ordinamento degli indirizzi può diventare esso stesso uno strumento di sorveglianza estremamente preciso. Un ordinamento delle macchine che chiede solo gli indirizzi e lascia inesaminata la qualità degli accoppiamenti resta a metà.
La finestra temporale
Un ordinamento di questo tipo si delinea. L’infrastruttura europea dell’identità verrà costruita entro la fine del 2026, gli obblighi del regolamento sull’IA entrano in vigore per gradi. Dove il legislatore lascia aperta la questione dell’indirizzo, piattaforme e produttori di apparecchi vi rispondono ogni giorno, con decisioni di prodotto e standard di fatto. Un’architettura simile si lascia modellare facilmente all’inizio e quasi più modificare in seguito. Chi viene coinvolto solo quando è già consolidata dispone di uno spazio di configurazione nettamente minore.
Fuerstner ha ragione sull’indirizzo. La domanda aperta è se il futuro ordinamento delle macchine porrà anche la seconda, finché la sua architettura è ancora fluida.
→ La breve analisi completa “Adressen für Maschinen” ripercorre il discorso di Fuerstner passo per passo, con fonti, casi esemplari e tre domande di verifica per il legislatore. Breve analisi in PDF.