Questions ouvertes · Pfadethik

# Questions ouvertes **Knowledge Hub :** les mêmes classes de problèmes sont documentées de façon approfondie dans le hub Notion - notamment sous forme de deep dives sur la fidélité inter-juges, la granularité et le cadrage, la capacité de connexion parasitaire, l’intégration de Simondon, éthique des trajectoires contre éthique environnementale, Nussbaum/capabilités, qualia et AGI/singularité - complétés par des salves adversariales et la base de données des questions de développement. --- ## Le problème de la quantification Le modèle A-A-P suggère une mesurabilité (des scores de 0 à 10). Dans la réalité, cela reste hautement subjectif. L’autonomie d’une “maison intelligente” est-elle de 4 ou de 6 ? Il nous faut d’urgence des méthodes de **fidélité inter-juges** : si trois éthiciennes évaluent le même système, elles doivent parvenir à des scores voisins. **Étape suivante (hub/recherche) :** des études pilotes avec plusieurs évaluateurs et leur analyse (par exemple le κ de Cohen). ## Le problème de la totalité L’éthique des trajectoires présuppose un “environnement” auquel un système doit pouvoir se connecter. Mais qu’en est-il de l’**univers pris comme un tout** ? Ou des écosystèmes politiques fermés, qui définissent la capacité de connexion en interne et occultent les trajectoires extérieures ? ## Le dilemme de la concurrence entre trajectoires Lorsque deux trajectoires robustes entrent en collision (par exemple protection de la nature contre construction de logements), laquelle prime ? L’éthique des trajectoires tend à préférer celle dont la *robustesse d’ensemble* est la plus élevée, mais cela pourrait désavantager injustement des trajectoires minoritaires ou non humaines (droits de la nature, écosystèmes) - un champ ouvert dans la mise en œuvre institutionnelle. ## Le rôle de l’observateur Identifions-nous des trajectoires (“il y a là une rivière”) ou les construisons-nous (“j’appelle cela une rivière”) ? L’éthique des trajectoires doit clarifier à quel point elle est marquée par le constructivisme. **Apparenté :** le problème de la granularité et du cadrage - où s’arrête le système à évaluer ? ## Limites et exclusions ### Ce que l’éthique des trajectoires ne protège pas L’éthique des trajectoires n’est pas une licence pour le relativisme moral. Toute trajectoire ne mérite pas d’être protégée. Quatre mécanismes structurels empêchent que n’importe quel système soit “anobli” : ### 1. La capacité de connexion comme différenciateur #### L’exemple des cellules cancéreuses : | System | A-A-P (illustrative) | | --- | --- | | Organisme (être humain) : A1=7/10, A2=8/10, P=7/10 | | Cellules cancéreuses : A1=7/10, A2=1/10, P=6/10 | Les cellules cancéreuses possèdent une autonomie élevée : elles se reproduisent elles-mêmes, mutent, contournent la mort cellulaire programmée. Elles sont émergentes. Mais : **capacité de connexion extrêmement faible.** Elles détruisent les trajectoires de l’organisme, elles sont parasitaires. **Enseignement :** toute trajectoire dotée d’autonomie n’est pas digne de protection. La capacité de connexion est le critère décisif. ### 2. Anti-trajectoires Les **anti-trajectoires** sont des systèmes qui détruisent systématiquement d’autres trajectoires sans en rendre de nouvelles possibles : régimes totalitaires, algorithmes monopolistiques, espèces invasives, structures de capital extractives. Ceux-ci ont par définition la capacité de connexion la plus faible -> le statut moral le plus bas. ### 3. Principe de précaution face aux risques existentiels Dans les conflits de trajectoires comportant des risques existentiels, la règle est : **protection de la trajectoire fragile et non substituable avant les gains hypothétiques.** Exemple du développement de l’AGI : en cas d’incertitude, protéger l’humanité. Non pas “ne jamais développer d’AGI”, mais : développer l’AGI avec des mesures de sécurité. ### 4. Responsabilité réflexive et intentionnelle Les systèmes dotés de méta-processualité (capables de réfléchir et de réviser leur propre directionnalité) portent une **responsabilité élargie**. Les êtres humains remplissent les 5 critères. Les systèmes d’IA actuels : 0-2. Les systèmes à intentionnalité réflexive plus élevée peuvent être tenus pour responsables de leurs effets sur les trajectoires. Une éthique des trajectoires orientées a besoin de critères d’exclusion. Un couplage destructeur, un scellement de trajectoires ou un dommage irréversible à des trajectoires hautement pertinentes justifient des interventions.