Zwei Menschen sitzen vor demselben Chatbot. Beide tippen eine Frage ein. Der erste schreibt: „Mach mir eine Zusammenfassung von dem Thema.“ Der zweite schreibt: „Ich arbeite an einem Vergleich zwischen X und Y für Zielgruppe Z. Welche drei strukturellen Unterschiede sind für diese Zielgruppe am relevantesten, und wo sind die Grenzen des Vergleichs?“
Beide erhalten eine saubere Inference, die Antwort. Die eine klingt plausibel; sie ist generisch, oberflächlich, austauschbar. Die andere präzise, differenziert, nützlich. Beide Nutzer halten ihre Antwort für gut. Der Unterschied liegt nicht im Tool, dem Modell. Er liegt in der Frage.
Dies ist kein Randphänomen. Es ist Strukturprinzip von KI-Nutzung.
Der verstärkende Spiegel
Eine gern genutzte Metapher ist der Spiegel: KI als Spiegel zeigt dir, wer du bist. Das ist zu passiv. Er zeigt nur, was da ist.
KI hingegen amplifiziert.
Sie verstärkt, was der Nutzer einbringt. Gute Fragen produzieren bessere Ergebnisse; schlechte Fragen produzieren plausibel klingende Mittelmäßigkeit.
Der Horror des Spiegelkabinetts liegt nun nicht darin, sich selbst zu sehen. Er liegt darin, sich selbst nicht zu erkennen im Output und dennoch dessen Qualität nicht beurteilen zu können.
Was die Psychologen als Dunning-Kruger-Effekt kennen: Wer eine Fähigkeit nicht besitzt, kann auch nicht beurteilen, dass sie fehlt. Das hebelt die KI technologisch noch an. Wer keine guten Fragen stellen kann, bekommt keine guten Antworten, hält die Antworten aber für gut. Was wiederum eine Kompetenzillusion, die sich selbst stabilisiert (siehe z.B. KIKOLAUS).
Zugang ist nicht Freiheit
Jeder mit Internetzugang kann ein Sprachmodell nutzen. Keine Zulassung, keine Prüfung, keine Voraussetzung. Das ist, was die Pfadethik nominelle Autonomie nennt: die formale Freiheit, etwas zu tun.
Strukturelle Autonomie ist etwas anderes. Sie beschreibt die tatsächliche Fähigkeit, das Werkzeug souverän einzusetzen: die richtigen Fragen zu stellen, den Output kritisch zu bewerten, die Grenzen des Systems zu kennen.
Die Pfadethik hat diese Unterscheidung für einen anderen Kontext entwickelt. Ein Plattformarbeiter, der über Fiverr Aufträge annimmt, hat nominell maximale Autonomie: keine Vorgesetzten, freie Zeiteinteilung. Strukturell ist er minimal autonom: Der Algorithmus bestimmt seine Sichtbarkeit, Kundenbewertungen determinieren seine Zukunft.
KI-Nutzung folgt demselben Muster. Nominelle Autonomie ist identisch: alle haben Zugang. Strukturelle Autonomie divergiert maximal.
Die unsichtbare Schere
Hier liegt aus unserer Sicht eine gesellschaftliche Sprengkraft. Die Schere öffnet sich nicht zwischen KI-Nutzern und Nicht-Nutzern. Sie öffnet sich zwischen kompetenten und inkompetenten Nutzern. Und sie ist unsichtbar, weil beide Gruppen dasselbe Werkzeug verwenden.
Ein Unternehmen, das KI einsetzt, ohne die Outputqualität beurteilen zu können, produziert systematisch mittelmäßige Ergebnisse mit hoher Geschwindigkeit. Die Geschwindigkeit wird als Produktivitätsgewinn missverstanden. Das ist kein hypothetisches Szenario: 65% der Unternehmen brachen 2025 mindestens ein KI-Projekt wegen fehlender Kompetenzen ab (Pluralsight). 94% der Mitarbeiter sind offen für KI, aber nur 36% können sie in Arbeitsabläufe integrieren (Gartner).
Auf gesellschaftlicher Ebene wird daraus eine Spaltung, die schwerer zu adressieren ist als der Jobverlust, über den alle reden. Jobverlust ist sichtbar, messbar, politisch verhandelbar. Die Kompetenzschere ist unsichtbar, weil ihre Betroffenen nicht wissen, dass sie betroffen sind.
Was das für die Debatte bedeutet
Die öffentliche KI-Debatte kreist um zwei Positionen: KI vernichtet Arbeitsplätze (Pessimismus) oder KI schafft mehr als sie zerstört (Optimismus). Beide verfehlen das Problem.
Die relevante Frage ist nicht, ob KI netto Jobs schafft oder vernichtet. Die relevante Frage ist: Wer kann das Werkzeug so einsetzen, dass es ihn stärkt, und wer wird durch die eigene Inkompetenz weiter zurückgeworfen, ohne es zu merken?
Regulierung hilft hier begrenzt. KI-Nutzung zu regulieren behandelt Symptome. KI-Urteilsfähigkeit aufzubauen adressiert die Struktur. Das ist langsamer, institutionell schwieriger und politisch weniger attraktiv. Es ist auch das Einzige, was wirkt.
Die Pfadethik formuliert das als diagnostische Frage: Stützt eine Intervention die Rückkopplungsarchitektur des betroffenen Systems, oder ersetzt sie sie? KI-Kennzeichnungspflichten und Verbote ersetzen. KI-Urteilsfähigkeit stützt.
Die Gegenthese, die fehlt
Eine einseitige Analyse wäre unvollständig. KI ist zugleich die radikalste Demokratisierung kognitiver Werkzeuge seit der Druckerpresse. Wer bisher keinen Zugang zu Anwälten, Übersetzern, Tutoren oder Beratern hatte, hat ihn jetzt. In Niedrigeinkommensländern, wo die KI-Exposition geringer ist, dominiert KI-Optimismus (Stanford HAI, 2026).
Die damit einhergehende Angst ist ein Phänomen der Industrieländer. Die aufkommende Chance ist global. Beides ist wahr. Die Pfadethik nennt das ein gemischtes Kopplungsprofil: konstruktive Kopplung (Demokratisierung) und destruktive Kopplung (Kompetenzamplifikation) im selben System. Reale Systeme haben fast immer beides.
Der Riss verläuft nicht zwischen KI-Befürwortern und KI-Gegnern. Er verläuft zwischen denen, die die Kompetenzschere verstehen, und denen, die sie überhaupt nicht sehen.
Two people sit in front of the same language model. Both type a question. The first writes: “Give me a summary of this topic.” The second writes: “I’m working on a comparison between X and Y for audience Z. What are the three most structurally relevant differences for this audience, and where are the limits of the comparison?”
Both get an answer. The first sounds plausible; it is generic, superficial, interchangeable. The second is precise, differentiated, useful. Both users consider their answer good. The difference is not in the tool. It is in the question.
This is not an edge case. It is the structural principle of AI use.
A Mirror That Amplifies
The common metaphor is the hall of mirrors: AI shows you who you are. That is too passive. A mirror shows what is there. AI amplifies. It reinforces what the user brings. Good questions produce brilliant results; poor questions produce plausible-sounding mediocrity.
The horror is not in seeing yourself. It is in not recognising yourself in the output while being unable to judge its quality.
Psychologists call this the Dunning-Kruger effect: those who lack a skill cannot judge that it is missing. AI gives this effect a technological lever. Those who cannot ask good questions get poor answers but consider them good. This creates a competence illusion that stabilises itself.
Access Is Not Freedom
Anyone with internet access can use a language model. No admission, no exam, no prerequisites. Path Ethics calls this nominal autonomy: the formal freedom to do something.
Structural autonomy is something else. It describes the actual ability to use the tool competently: to ask the right questions, to critically evaluate the output, to know the system’s limits.
Path Ethics developed this distinction for a different context. A platform worker who takes on jobs through Fiverr has nominally maximal autonomy: no supervisor, flexible hours. Structurally, they are minimally autonomous: the algorithm determines their visibility, customer ratings determine their future.
AI use follows the same pattern. Nominal autonomy is identical: everyone has access. Structural autonomy diverges maximally.
The Invisible Divide
This is where the societal stakes lie. The divide does not open between AI users and non-users. It opens between competent and incompetent users. And it is invisible, because both groups use the same tool.
A company deploying AI without the ability to judge output quality systematically produces mediocre results at high speed. The speed is misread as a productivity gain. This is not hypothetical: 65% of companies abandoned at least one AI project in 2025 due to lack of skills (Pluralsight). 94% of employees are open to AI, but only 36% can integrate it into workflows (Gartner).
At a societal level, this becomes a division harder to address than the job losses everyone discusses. Job loss is visible, measurable, politically negotiable. The competence divide is invisible because those affected do not know they are affected.
What This Means for the Debate
The public AI debate orbits two positions: AI destroys jobs (pessimism) or AI creates more than it destroys (optimism). Both miss the problem.
The relevant question is not whether AI creates or destroys jobs on balance. The relevant question is: who can use the tool in ways that strengthen them, and who is pushed further back by their own incompetence without noticing?
Regulation helps here only marginally. Regulating AI use treats symptoms. Building AI judgment addresses structure. It is slower, institutionally harder, and politically less attractive. It is also the only thing that works.
Path Ethics frames this as a diagnostic question: does an intervention support the feedback architecture of the affected system, or does it replace it? Labelling requirements and bans replace. Building judgment supports.
The Missing Counter-Thesis
A one-sided analysis would be incomplete. AI is simultaneously the most radical democratisation of cognitive tools since the printing press. Those who previously lacked access to lawyers, translators, tutors, or advisors now have it. In lower-income countries, where AI exposure is lower, AI optimism dominates (Stanford HAI, 2026).
Fear is a phenomenon of industrialised nations. Opportunity is global. Both are true. Path Ethics calls this a mixed coupling profile: constructive coupling (democratisation) and destructive coupling (competence amplification) in the same system. Real systems almost always have both.
The fault line does not run between AI advocates and AI opponents. It runs between those who understand the competence divide and those who do not see it.