Un drone de livraison évite un obstacle et endommage une voiture en stationnement. Qui est responsable ? La réponse tient à des questions simples. De quel appareil s’agissait-il, quelle version logicielle tournait, l’ordre d’évitement venait-il d’un être humain ou de la logique de bord ? En principe, chacune de ces questions a une réponse. En pratique, personne ne l’a souvent consignée, et là où des enregistrements existent, ils sont chez l’exploitant et peuvent être modifiés après coup. La machine a agi et a pourtant disparu de la chaîne de responsabilité.
C’est précisément là que s’engage un discours prononcé le 10 juin 2026 au Bundestag allemand par le professeur Tom Fuerstner, fondateur de l’entreprise viennoise d’identité des machines Riddle&Code. Sa proposition est sobre : les machines qui agissent ont besoin d’une adresse. Une telle adresse n’est ni une personnalité ni un droit. Il suffit d’une inscription vérifiable qui rende un système interpellable et distinguable et le raccorde à la responsabilité, à la surveillance et à la correction. “Qui n’a pas d’adresse”, dit Fuerstner, “disparaît de la chaîne de responsabilité.”
Ce que Fuerstner ne demande pas est remarquable. Que les machines pensent ou deviennent conscientes, il le juge intéressant pour les philosophes et pas le plus urgent politiquement. L’urgence serait une autre question : un système qui agit est-il imputable ? Ce déplacement, loin de la question de la conscience et vers la question de la structure de l’agir, est aussi le mouvement de l’éthique des trajectoires.
L’éthique des trajectoires ne juge pas un système d’après son essence. Elle demande comment il est construit : avec quelle indépendance il agit, comment il est couplé à d’autres systèmes et de quelle manière il subsiste dans le temps. Trois questions qui se posent aussi bien aux organismes qu’aux logiciels.
Pourquoi la surveillance saisit le vide
La troisième de ces questions explique un problème croissant. La surveillance classique des appareils et des produits est historiquement taillée pour des systèmes dont l’état pertinent pour l’action reste relativement stable après l’homologation. Les systèmes apprenants et continûment mis à jour mettent cette hypothèse sous pression. Un grille-pain certifié en 2024 grille encore de la même façon en 2026. Un système apprenant, non. Un agent d’achat dont le modèle a été mis à jour deux fois depuis une commande litigieuse n’est plus, au moment du contrôle, le même qu’au moment de l’action. La surveillance peut alors contrôler un autre état du système que celui qui était déterminant pour l’action en cause. L’éthique des trajectoires appelle cela une illusion de persistance : un ordre paraît stable parce que sa forme subsiste, tandis que sa force de prise s’est depuis longtemps érodée.
La deuxième proposition de Fuerstner y répond. Il l’appelle notarisation : une machine qui agit doit laisser des traces qui ne se laissent pas réécrire à volonté après coup, lors de l’enregistrement, de l’autorisation d’une mission, du changement d’une version logicielle. Le modèle est ancien. L’aviation le connaît sous le nom d’enregistreur de vol, un appareil délibérément rigide qui consigne sans altération ce qui s’est passé, alors que tout bouge autour. Plus le système est mobile, plus la couche qui le rend traçable doit être rigide.
La deuxième question
Jusque-là, l’exigence porte. Mais une adresse ne répond qu’à une question : qui a agi. Elle en laisse une deuxième ouverte : ce que cet agir fait aux personnes et aux systèmes auxquels il est lié. Imaginons une flotte de surveillance qui satisfait à tout ce que le débat sur l’adresse réclame. Chaque appareil est identifié, chaque mission signée, chaque chaîne de responsabilité sans faille. Cette flotte est entièrement imputable. Et elle peut en même temps creuser la spontanéité des personnes surveillées dans l’espace public, leurs déplacements et leurs comportements de rassemblement. Adressage sans faille, et nuisible malgré tout.
L’éthique des trajectoires distingue ici entre des couplages qui renforcent les deux côtés et ceux où un côté gagne aux dépens de l’autre. Imputabilité et innocuité sont deux choses différentes. Un ordre des adresses peut lui-même devenir un instrument de surveillance extrêmement précis. Un ordre des machines qui ne demande que des adresses et laisse la qualité des couplages sans examen reste à moitié fait.
La fenêtre temporelle
Un tel ordre se dessine. L’infrastructure européenne d’identité sera construite d’ici fin 2026, les obligations du règlement sur l’IA s’appliquent par paliers. Là où le législateur laisse la question de l’adresse ouverte, les plateformes et les fabricants d’appareils y répondent quotidiennement, par des décisions produit et des standards de fait. Une telle architecture se laisse façonner facilement au début et ne se modifie presque plus ensuite. Qui n’est associé qu’une fois qu’elle est consolidée dispose d’une marge de conception nettement moindre.
Fuerstner a raison avec l’adresse. La question ouverte est de savoir si l’ordre des machines à venir posera aussi la seconde, tant que son architecture est encore fluide.
→ La brève analyse complète “Des adresses pour les machines” reprend le discours de Fuerstner pas à pas, avec sources, cas exemplaires et trois questions de contrôle pour le législateur. Brève analyse en PDF.