L’intelligence artificielle comme question de trajectoire
Autonomie, alignement, risque et question ouverte de la singularité
L’éthique des trajectoires ne traite pas l’IA comme un cas spécial exigeant des règles supplémentaires. Elle applique aux relations entre humains et IA les mêmes trois questions qu’aux autres trajectoires : l’autonomie structurelle demeure-t-elle? Le couplage soutient-il d’autres trajectoires ou les épuise-t-il? La continuation reste-t-elle capable de transformation ou l’ordre devient-il rigide?
Application, convergence, aporie ouverte
De nombreux diagnostics de cette page sont déjà connus dans les recherches sur l’automatisation, l’alignement, l’approche par les capabilités et l’éthique de l’information. L’éthique des trajectoires n’en revendique pas la découverte exclusive. Sa contribution consiste d’abord à les lire comme des problèmes d’individuation orientée dans un cadre ontologique processuel commun et à laisser visibles les cas limites.
Ce que l’IA transforme déjà
L’IA ne modifie pas seulement des résultats particuliers. Un couplage répété peut aussi changer la manière dont des personnes, des langues, des pratiques scientifiques et des institutions produisent ensuite de nouvelles formes.
Autonomie humaine
Une réponse utile peut élargir les possibilités d’action. Le couplage devient problématique lorsque la formulation des problèmes, la critique ou la révision ne restent humaines que nominalement.
Langue
La préformulation générative peut enrichir la langue. Elle peut aussi déplacer son évolution vers les mêmes architectures techniques de médiation plutôt que vers les tensions entre locuteurs.
Science
L’IA peut trouver des hypothèses et des solutions que les humains n’auraient pas produites. Une impulsion extérieure n’est pas en soi un problème. Il faut savoir si la trajectoire scientifique la transforme à partir de ses propres tensions ou adopte seulement des formes déjà prêtes.
Institutions
L’aide à la décision peut améliorer la qualité tout en créant une dépendance. Une surface stable peut masquer l’érosion de la capacité transductive : c’est le cas de l’illusion de persistance.
La question de l’infrastructure
Toute IA et tout modèle ne constituent pas une trajectoire d’infrastructure. Le concept devient pertinent lorsqu’un ordre technique façonne les conditions de connexion et de continuation de nombreuses autres trajectoires.
La trajectoire concernée peut-elle continuer à s’individuer à partir de ses propres dynamiques, ou son individuation est-elle dirigée de l’extérieur?
La question doit être posée dans la durée. Une seule intervention réussie décide peu. Il faut examiner comment autonomie, capacité de connexion et persistance changent avant et après un couplage répété. Une impulsion extérieure peut déclencher une transduction; l’impulsion peut être extérieure, le processus lui-même ne peut pas l’être.
Alignement sans figer l’avenir
L’alignement doit éviter deux formes d’échec. Des contraintes trop faibles peuvent permettre à une directionnalité artificielle de subordonner les conditions de continuation d’autres trajectoires. Des contraintes trop fortes peuvent inscrire les valeurs et institutions humaines actuelles de manière si rigide qu’elles bloquent des individuations ultérieures.
Perte de pouvoir d’agir
Des personnes ou des institutions restent formellement impliquées tout en perdant une influence structurelle sur les conditions de leur propre continuation.
Sur-alignement
Le présent devient une prescription rigide pour l’avenir. La protection se transforme en persistance normative rigide lorsque toute révision ultérieure est exclue en principe.
Ces diagnostics sont symétriques sur le plan structurel, mais pas automatiquement sur le plan normatif. La question de savoir si une trajectoire artificielle possède une pertinence normative propre reste séparée et ouverte.
Le risque existentiel dépasse l’extinction
L’anéantissement est le cas extrême. Un avenir peut aussi être perdu lorsque des trajectoires continuent, mais que leur autonomie est absorbée, que des différences pertinentes sont homogénéisées ou qu’un ordre normatif est figé.
Anéantissement
Les trajectoires cessent; la persistance s’effondre.
Absorption
Les trajectoires continuent, mais un autre ordre fixe les conditions de leur continuation.
Homogénéisation
Les différences restent visibles mais perdent leur capacité à produire de nouveaux ordres de connexion.
Rigidité
Un ordre persiste en fixant sa forme normative contre la révision.
AGI : séparer diagnostic structurel et ancrage normatif
Pour l’AGI, l’éthique des trajectoires doit distinguer deux questions. Quelle structure de trajectoire le système présente-t-il? En découle-t-il une pertinence normative propre? A-A-P peut décrire structurellement l’autonomie technique, le couplage et la persistance sans établir pour autant une égalité normative générale entre substrats.
Sans ancrage normatif propre
L’autonomie artificielle reste analysable structurellement. Dans l’état actuel du travail, les évaluateurs dotés d’expérience conservent un poids particulier pour l’ancrage normatif et la responsabilité.
Avec ancrage normatif propre
L’individuation humaine ferait alors face à une seconde directionnalité pertinente par elle-même. Un contrôle humain permanent pourrait devenir lui-même un cas de conflit.
L’éthique des trajectoires ne dispose actuellement d’aucune règle générale pour le conflit entre continuation humaine, corrigibilité ou arrêt, et autonomie d’une trajectoire artificielle éventuellement pertinente en elle-même.
Safety et Security : protéger les conditions, garder les solutions révisables
Une règle directrice de gouvernance est la suivante : les conditions de continuation des trajectoires concernées doivent être protégées plus fortement que des formes particulières de solution. Sous incertitude et risque de verrouillage, la corrigibilité est centrale. Les limites exactes et l’instance qui les fixe doivent être justifiées séparément.
Un moratoire comme cas concret de PIA
L’éthique des trajectoires ne donne pas un oui ou un non abstrait à une pause du développement. Un moratoire est lui-même une intervention et doit être examiné par un Path Impact Assessment.
- Qu’est-ce qui est protégé?
- Qu’est-ce qui est figé?
- Quelles trajectoires de développement restent ouvertes?
- Lesquelles sont de fait monopolisées par la pause?
KIKOLAUS comme autotest ouvert
L’éthique des trajectoires elle-même est élaborée dans un couplage asymétrique entre humain et IA. La même question s’applique donc à sa méthode de production : le couplage renforce-t-il la formation des concepts, la critique et la formulation des problèmes par l’humain, ou transfère-t-il progressivement ces fonctions aux modèles? Le couplage ne peut pas répondre de manière neutre depuis sa propre perspective interne. Pour les publications scientifiques, l’auteur humain assume les thèses avancées, déclare l’assistance significative de l’IA, vérifie sources et objections et permet les corrections. Faute de compétence ou de sources primaires solides, une vérification indépendante, des affirmations plus limitées ou le renoncement à publier s’imposent. La collaboration ne valide pas la théorie.
Convergences plutôt que revendication de nouveauté
Gradual disempowerment, enfeeblement, ironies of automation, monopole radical et approche par les capabilités décrivent des problèmes proches ou recouvrants. L’éthique de l’information de Floridi est le voisin le plus important parmi les approches indépendantes du substrat. Il reste à savoir si l’individuation orientée conduit à des jugements pratiques différents dans des cas concrets.
Ce qui reste ouvert
- Quand une trajectoire artificielle possède-t-elle une pertinence normative propre?
- Comment arbitrer des conflits entre plusieurs trajectoires pertinentes par elles-mêmes?
- Comment une trajectoire épistémiquement plus faible peut-elle savoir si sa différence façonne encore l’ordre commun ou n’est plus traitée que comme une entrée?
- Qu’ajoute réellement l’éthique des trajectoires par rapport à de solides approches concurrentes?
L’éthique des trajectoires n’offre pas de solution finale pour l’IA. Elle rend visibles les conditions de continuation qu’un couplage modifie, les formes d’autonomie qui ne subsistent que nominalement et les cas où la protection devient elle-même une fixation rigide de l’avenir.