*Riflessioni dal Digital Assets Day @ TUM Blockchain Conference*
Al Digital Assets Day di Bundesblock a Monaco, Stephan Lutz, partner di PwC, parla di blockchain e IA. Un aumento dell’efficienza del quindici o venti per cento nei processi aziendali esistenti non gli basta come obiettivo. “But this is not what they are for.”
L’interazione tra queste due tecnologie probabilmente continuerà a trasformare il nostro modo di fare economia e di vivere insieme. Una volta che si ha un obiettivo in mente, si possono cercare gli strumenti adatti. Come KIKOLAUS, però, anch’io mi chiedo spesso se questa sequenza sia davvero così fissa. Gli strumenti non influenzano forse lo spazio delle possibilità? Quali domande mi pongo, in primo luogo? Anche il percorso della cooperazione tra esseri umani e IA può cambiare direzione strada facendo.
Certo, tutti vogliono evolversi con e attraverso la tecnologia, riconoscere connessioni e sperimentare possibilità prima inaccessibili. Per me, l’autonomia comprende anche la possibilità di diventare diversi. Nella mia ricerca sull’etica dei percorsi mi interessa quindi capire se posso continuare a partecipare a questi cambiamenti e se un assetto inizialmente utile possa tornare a trasformarsi in qualcosa di diverso.
Quanto possiamo essere indipendenti?
Joachim Schwerin, economista ed esperto di blockchain che ha lavorato a lungo per la Commissione europea, ha introdotto l’idea di un “piano B”. Che cosa succede quando i sistemi digitali o le istituzioni statali non funzionano più? In quel caso servono alternative che funzionino anche senza di essi.
Questo mi porta a una domanda: quanto sono davvero indipendente se non comprendo i sistemi da cui dipendo e non posso passare ad altri? Anche un piano B ha bisogno di persone, conoscenze e strutture funzionanti. L’indipendenza, a quanto pare, non è qualcosa che posso creare da solo.
Quando gli agenti agiscono per noi
Più tardi, Schwerin ha descritto un esempio tratto dal mondo dell’artigianato: un agente di IA organizza gli appuntamenti e prepara i preventivi. L’artigiano continua a decidere quando lavorare e quali preventivi inviare. Sembra una divisione del lavoro piuttosto ragionevole.
Ma come si svilupperà questa collaborazione nel corso degli anni? Forse l’artigiano potrà concentrarsi maggiormente sul proprio mestiere. Forse, però, prima o poi l’IA capirà meglio di lui quali commesse siano redditizie. Questo lo renderebbe più indipendente? Oppure dipenderebbe sempre di più da decisioni di cui riesce a malapena a ricostruire il processo?
Dmytro Budorin, fondatore dell’azienda di sicurezza informatica Hacken, ha reso più concreti i rischi di questi agenti. Ha descritto come informazioni manipolate potrebbero indurre un agente di IA a pagare una fattura sul conto sbagliato. Se in futuro gli agenti eseguiranno pagamenti autonomamente, dovremo quindi riflettere anche sui poteri che affidiamo loro, su come riconoscere le manipolazioni e su come intervenire in caso di emergenza.
Che cosa succede alla nostra capacità di giudizio?
Domande simili sono emerse quando si è parlato delle risposte generate dall’IA. Dirk Röder ha affrontato il cambiamento della nostra ricerca di informazioni quando, invece di confrontare fonti diverse, riceviamo una risposta dall’IA. Si risparmia tempo. Ma che cosa succede alla nostra capacità di contestualizzare le affermazioni e metterle in discussione?
Questi esempi mi mostrano quanto sia dinamica l’autonomia. Si sviluppa nel rapporto con altre persone, strumenti e istituzioni. Per me è decisivo poter continuare a imparare, fare domande e, se necessario, cambiare direzione.
Stephan Lutz ha parlato di una futura interazione tra infrastrutture pubbliche, private e individuali. Forse proprio qui sta un presupposto importante: non essere vincolati a un unico percorso tecnico o istituzionale.
Possibilità di scelta per la società del 2035
Da tutto questo si possono ricavare alcune idee per la società del 2035. Vorrei agenti personali di IA capaci di agire in larga misura autonomamente, ma con poteri chiaramente delimitati. Dovrei poter capire quali decisioni hanno preso e correggerli in qualsiasi momento, oppure cambiare fornitore senza perdere la mia memoria digitale.
Anche le infrastrutture digitali dovrebbero offrire più possibilità di scelta. I sistemi pubblici, commerciali e decentralizzati dovrebbero poter funzionare insieme. Il “piano B” di Schwerin sarebbe allora più di una soluzione tecnica di emergenza: permetterebbe davvero alle persone di modificare le proprie dipendenze.
Tuttavia, si sarebbe ottenuto ben poco se soltanto le persone con competenze tecniche potessero sfruttare queste possibilità. Anche senza conoscenze specialistiche o un grande budget dovrei poter proteggere i miei dati, cambiare servizi digitali e capire che cosa fanno i miei agenti di IA a mio nome. E nelle scuole e nelle imprese dovremmo imparare a pensare in modo più esigente con l’IA, a metterne in discussione i risultati e a prendere insieme decisioni migliori.
Qui l’etica dei percorsi potrebbe diventare una bussola utile. Si chiede se le nuove tecnologie rafforzino la nostra autonomia, quali relazioni e dipendenze creino e se possiamo continuare a evolverci all’interno di queste strutture. Da ciò non nasce ancora un progetto definitivo per il 2035. Nasce però un criterio con cui valutare nuove tecnologie, modelli economici e regole sociali. Perché anche il futuro che desideriamo dovremo continuare a scoprirlo strada facendo.
Lasciare aperti i percorsi per la prossima generazione
Verso la fine del panel, lo sguardo si è rivolto alla prossima generazione. Che cosa devono imparare oggi i bambini per orientarsi in un mondo che noi stessi riusciamo appena a intravedere? Tra le idee emerse c’erano la curiosità, il pensiero critico e la capacità di aprirsi al nuovo. E anche la fiducia nel fatto che i giovani troveranno il proprio modo di rapportarsi a queste tecnologie.
Per me, qui c’è un bel pensiero nello spirito dell’etica dei percorsi. La società del 2035 sarà plasmata anche da persone di cui oggi non conosciamo ancora le domande e le idee. Forse dovremmo trasmettere loro soprattutto una cosa: la libertà di proseguire i nostri percorsi, modificarli o scoprirne di completamente nuovi. Perché un buon futuro si riconosce anche dal fatto che lascia aperte possibilità che noi stessi non riusciamo ancora a vedere.