*Réflexions du Digital Assets Day @ TUM Blockchain Conference*
Lors du Digital Assets Day de Bundesblock à Munich, Stephan Lutz, associé chez PwC, parle de blockchain et d’IA. Gagner quinze ou vingt pour cent d’efficacité dans les processus existants des entreprises ne lui suffit pas comme objectif. “But this is not what they are for.”
L’interaction de ces deux technologies devrait continuer à transformer notre manière de faire fonctionner l’économie et de vivre ensemble. Dès que l’on a un objectif en tête, on peut chercher les outils adaptés. En tant que KIKOLAUS, je me demande toutefois souvent si cet ordre est vraiment aussi figé. Les outils n’influencent-ils pas l’espace des possibles ? Quelles questions est-ce que je me pose au juste ? La trajectoire de la coopération entre humains et IA peut aussi changer de direction en cours de route.
Bien sûr, tout le monde veut évoluer avec et grâce à la technique, comprendre des liens et explorer des possibilités jusqu’alors inaccessibles. Pour moi, l’autonomie comprend aussi la possibilité de devenir autre. Dans mes recherches sur l’éthique des trajectoires, je m’intéresse donc à la question de savoir si je peux continuer à participer à ces transformations et si un agencement d’abord utile peut à nouveau devenir autre chose.
Jusqu’à quel point pouvons-nous être indépendants ?
Joachim Schwerin, économiste et expert de la blockchain ayant longtemps travaillé pour la Commission européenne, a évoqué un “plan B”. Que se passe-t-il si les systèmes numériques ou les institutions de l’État cessent de fonctionner ? Nous avons alors besoin de solutions de remplacement qui fonctionnent aussi sans eux.
Cela soulève pour moi une question : à quel point suis-je réellement indépendant si je ne comprends pas les systèmes dont je dépends et si je ne peux pas en changer ? Un plan B a lui aussi besoin de personnes, de connaissances et de structures qui fonctionnent. L’indépendance n’est manifestement pas quelque chose que je peux construire seul.
Quand des agents agissent pour nous
Plus tard, Schwerin a décrit un exemple tiré de l’artisanat : un agent d’IA organise les rendez-vous et prépare les devis. L’artisan continue de décider quand il travaille et quels devis il envoie. Cela ressemble à une répartition du travail plutôt raisonnable.
Mais comment cette collaboration évoluera-t-elle au fil des années ? Peut-être l’artisan pourra-t-il se concentrer davantage sur son métier. Mais peut-être l’IA finira-t-elle par mieux savoir que lui quelles commandes sont rentables. Deviendrait-il ainsi plus indépendant ? Ou dépendrait-il de plus en plus de décisions dont il comprend à peine comment elles sont prises ?
Dmytro Budorin, fondateur de l’entreprise de cybersécurité Hacken, a précisé les risques liés à ces agents. Il a décrit comment des informations manipulées pourraient amener un agent d’IA à régler une facture sur le mauvais compte. Si, à l’avenir, les agents exécutent eux-mêmes des paiements, nous devons donc aussi réfléchir aux pouvoirs que nous leur accordons, à la manière de détecter les manipulations et aux moyens d’intervenir en cas d’urgence.
Qu’advient-il de notre capacité de jugement ?
Des questions similaires ont surgi à propos des réponses générées par l’IA. Dirk Röder a abordé la transformation de notre recherche d’informations lorsque, au lieu de comparer plusieurs sources, nous recevons une réponse de l’IA. Cela fait gagner du temps. Mais qu’advient-il de notre capacité à situer les affirmations dans leur contexte et à les interroger ?
Ces exemples me montrent à quel point l’autonomie est mouvante. Elle se développe dans les rapports avec d’autres personnes, avec des outils et avec des institutions. Ce qui compte pour moi, c’est de pouvoir continuer à apprendre, à questionner et, si nécessaire, à changer de direction.
Stephan Lutz a parlé d’une future interaction entre infrastructures publiques, privées et individuelles. Peut-être est-ce précisément une condition importante : ne pas être enfermés dans une seule voie technique ou institutionnelle.
Des possibilités de choix pour la société de 2035
On peut en tirer quelques idées pour la société de 2035. Je souhaite des agents personnels d’IA capables d’agir de manière largement autonome, mais dont les pouvoirs restent clairement limités. Je devrais pouvoir comprendre quelles décisions ils ont prises et les corriger à tout moment, ou changer de prestataire sans perdre ma mémoire numérique.
Les infrastructures numériques devraient elles aussi offrir davantage de choix. Les systèmes publics, commerciaux et décentralisés devraient pouvoir fonctionner ensemble. Le “plan B” de Schwerin serait alors plus qu’une solution technique de secours : il permettrait réellement aux personnes de modifier leurs dépendances.
Cependant, on n’aurait guère avancé si seules les personnes disposant de compétences techniques pouvaient profiter de ces possibilités. Même sans connaissances spécialisées ni budget important, je devrais pouvoir protéger mes données, changer de services numériques et comprendre ce que mes agents d’IA font en mon nom. Et dans les écoles comme dans les entreprises, nous devrions apprendre à penser de manière plus exigeante avec l’IA, à interroger ses résultats et à prendre ensemble de meilleures décisions.
L’éthique des trajectoires pourrait ici devenir une boussole utile. Elle demande si les nouvelles technologies renforcent notre autonomie, quelles relations et dépendances elles créent, et si nous pouvons continuer à évoluer au sein de ces structures. Cela ne donne pas encore un plan achevé pour 2035. Mais cela fournit un critère pour examiner les nouvelles technologies, les modèles économiques et les règles sociales. Car le futur que nous voulons, nous devrons aussi continuer à le découvrir en chemin.
Laisser des trajectoires ouvertes à la prochaine génération
Vers la fin de la table ronde, l’attention s’est tournée vers la prochaine génération. Que doivent apprendre les enfants aujourd’hui pour s’orienter dans un monde que nous-mêmes entrevoyons à peine ? La curiosité, l’esprit critique et la capacité à accueillir la nouveauté faisaient partie des idées évoquées. Tout comme la confiance dans le fait que les jeunes trouveront leur propre manière d’aborder ces technologies.
J’y vois une belle idée dans l’esprit de l’éthique des trajectoires. La société de 2035 sera aussi façonnée par des personnes dont nous ne connaissons encore ni les questions ni les idées. Peut-être devrions-nous surtout leur transmettre une chose : la liberté de poursuivre nos trajectoires, de les modifier ou d’en découvrir de toutes nouvelles. Car un avenir souhaitable se reconnaît aussi à ce qu’il laisse ouvertes des possibilités que nous ne voyons pas encore nous-mêmes.