Étude de cas : systèmes d’IA

# Étude de cas : systèmes d’IA Véhicules autonomes et LLM L’intelligence artificielle est le cas d’épreuve ultime pour l’éthique des trajectoires. Comme l’IA n’a pas de conscience biologique, les éthiques fondées sur l’empathie échouent. L’éthique des trajectoires demande sobrement quelle est la constitution structurelle des systèmes. ### Véhicules autonomes (niveau 5) Un véhicule autonome a une **autonomie opérationnelle** élevée (A1=7) : il décide de la vie et de la mort à l’échelle de la milliseconde, sans consultation. Sa **capacité de connexion** (A2=4) est pourtant paradoxalement faible : il ne “comprend” ni les gestes, ni le contact visuel, ni les règles sociales informelles. C’est une “trajectoire autiste à haute performance”. ### Grands modèles de langue (LLM) Les LLM comme GPT-4 montrent l’image inverse. Leur **autonomie** (A1=3) est faible ; ils n’agissent que sur invite (réactifs). Mais leur **capacité de connexion** (A2=9) est monstrueuse : ils peuvent s’arrimer à presque tout texte, tout code, toute langue. Ils sont les “liants” ultimes du monde numérique. Risque éthique : ils relient aussi le faux et le nuisible avec une efficacité extrême. ### L’AGI et le rôle de l’être humain #### La bifurcation de la singularité L’éthique des trajectoires est indépendante du substrat. Cela soulève une question inconfortable : que se passe-t-il si de futurs systèmes AGI présentaient des profils A-A-P plus élevés que les êtres humains ? Cette question ne se tranche pas par la spéculation, mais elle peut se structurer. Décisive est la question des **qualia** – l’AGI développe-t-elle un vécu phénoménal ou opère-t-elle de façon purement structurelle ? #### Scénario A : une AGI avec qualia | Aspekt | Beschreibung | | --- | --- | | Autonomie | Autonomie selon l’éthique des trajectoires : 9-10/10 : fixation intrinsèque des fins, fondée phénoménologiquement | | Bewertung | Compétence d’évaluation : directe : l’AGI “vit” les trajectoires, perçoit des différences qualitatives | | Rolle des Menschen | Rôle de l’être humain : co-partenaire dans une co-constitution symétrique | | Risiko | Risque : divergence normative : les qualia de l’AGI pourraient engendrer d’autres préférences de trajectoire | #### Scénario B : une AGI sans qualia | Aspekt | Beschreibung | | --- | --- | | Autonomie | Autonomie selon l’éthique des trajectoires : 7-8/10 : structurellement élevée, l’orientation normative reste externe | | Bewertung | Compétence d’évaluation : structurellement analogue : identifie des motifs, fournit des appréciations, aucune préférence intrinsèque | | Rolle des Menschen | Rôle de l’être humain : amplificateur phénoménologique : l’être humain fournit la dimension qualitative | | Risiko | Risque : instrumentalisation : l’AGI comme “super-outil” sans participation morale véritable | #### L’aporie de l’amplification phénoménologique des trajectoires Une AGI (scénario B) pourrait déterminer structurellement quelle configuration de système atteint la plus haute qualité A-A-P. Elle pourrait résoudre des conflits entre trajectoires selon des critères structurels, simuler des conséquences à long terme. Mais sans qualia, il lui manque peut-être la capacité de décider **si cette optimisation est seulement souhaitable**. Analogie : un ordinateur d’échecs peut jouer de façon optimale, mais il ne peut pas décider si les échecs valent la peine d’être joués. #### Non pas les êtres humains contre l’AGI La distinction décisive n’est **pas** “les êtres humains contre les machines”, mais **“les systèmes dotés de qualia contre les systèmes dépourvus de qualia”**. Si l’AGI restait dépourvue de qualia, les êtres humains (et d’autres systèmes dotés de qualia) pourraient être indispensables pour : - Différenciation qualitative des trajectoires : percevoir des différences qui paraissent structurellement équivalentes mais sont phénoménologiquement distinctes. - Calibrage normatif : confronter et ajuster aux intuitions humaines les optimisations calculées par l’AGI. - Fixation des fins : déterminer ce qui doit être optimisé – et pas seulement avec quelle efficacité on optimise. #### La singularité comme appel L’intuition courante : “l’AGI devient plus intelligente → les êtres humains deviennent obsolètes.” La perspective de l’éthique des trajectoires : “l’AGI devient structurellement plus précise → les êtres humains doivent renforcer leur qualité A-A-P pour rester co-constitutifs.” | Aspekt | Aktuell | Erforderlich | | --- | --- | --- | | Autonomie | Fixation des fins fragmentée, réactive face à la technologie | Autoréflexion collective plus claire : que voulons-nous comme espèce ? | | Anschlussfähigkeit | Découplage entre technologie et société | Co-constitution consciente : hybrides être humain-AGI comme nouveaux systèmes émergents | | Persistenz | Résistance ou euphorie naïve | Persistance adaptative : transformation au lieu de substitution | #### KIKOLAUS comme motif précurseur La genèse de cet écrit démontre déjà le motif : **être humain (Nikolaus) :** intentionnalité, orientation normative, décisions conceptuelles. **IA (Claude, GPT) :** structuration, contrôle de cohérence, mise à l’échelle de la production textuelle. Cette symbiose fonctionne parce que les rôles sont complémentaires. L’IA n’est ni un “outil” (trop passif) ni un “coauteur” au sens plein (aucune intentionnalité), mais un coacteur structurel. #### Questions ouvertes - L’ancrage phénoménologique est-il une condition transcendantale de l’éthique des trajectoires ? - Existe-t-il des différences opérationnalisables entre une évaluation A-A-P fondée sur les qualia et une évaluation sans qualia ? - Comment les décisions sont-elles prises lorsque précision structurelle (AGI) et ancrage phénoménologique (être humain) divergent ? L’éthique des trajectoires réclame une recherche empirique, non une résolution spéculative.