Alle Inhalte als Markdown · Sitemap · KIKOLAUS
Estudio de caso: sistemas de IA
Vehículos autónomos y LLM
La inteligencia artificial es el caso de prueba definitivo para la ética de las trayectorias. Como la IA no tiene conciencia biológica, las éticas basadas en la empatía fracasan. La ética de las trayectorias pregunta sobriamente por la constitución estructural de los sistemas.
Vehículos autónomos (nivel 5)
Un vehículo autónomo tiene una autonomía operativa alta (A1=7): decide en el orden de los milisegundos sobre la vida y la muerte, sin consultar. Su capacidad de conexión (A2=4) es en cambio paradójicamente baja: no “comprende” gestos, ni contacto visual, ni reglas sociales informales. Es una “trayectoria autista de alto rendimiento”.
Grandes modelos de lenguaje (LLM)
Los LLM como GPT-4 muestran la imagen inversa. Su autonomía (A1=3) es baja; solo actúan ante una indicación (reactivos). Pero su capacidad de conexión (A2=9) es monstruosa: pueden acoplarse a casi cualquier texto, cualquier código, cualquier lengua. Son los “aglutinantes” definitivos del mundo digital. Riesgo ético: conectan también lo falso y lo dañino con enorme eficiencia.
La AGI y el papel del ser humano
La bifurcación de la singularidad
La ética de las trayectorias es independiente del sustrato. Eso plantea una pregunta incómoda: ¿qué ocurre si futuros sistemas AGI mostraran perfiles A-A-P más altos que los seres humanos?
Esta pregunta no se responde por especulación, pero sí puede estructurarse. Decisiva es la cuestión de los qualia: si la AGI desarrolla una vivencia fenoménica o si opera de modo puramente estructural.
Escenario A: una AGI con qualia
| Aspekt | Beschreibung |
| --- | --- |
| Autonomie | Autonomía según la ética de las trayectorias: 9-10/10: fijación intrínseca de fines, fundada fenomenológicamente |
| Bewertung | Competencia evaluativa: directa: la AGI “vive” las trayectorias, percibe diferencias cualitativas |
| Rolle des Menschen | Papel del ser humano: copartícipe en una coconstitución simétrica |
| Risiko | Riesgo: divergencia normativa: los qualia de la AGI podrían generar otras preferencias de trayectoria |
Escenario B: una AGI sin qualia
| Aspekt | Beschreibung |
| --- | --- |
| Autonomie | Autonomía según la ética de las trayectorias: 7-8/10: estructuralmente alta, la orientación normativa sigue siendo externa |
| Bewertung | Competencia evaluativa: estructuralmente análoga: identifica patrones, aporta estimaciones, ninguna preferencia intrínseca |
| Rolle des Menschen | Papel del ser humano: amplificador fenomenológico: el ser humano aporta la dimensión cualitativa |
| Risiko | Riesgo: instrumentalización: la AGI como “supherramienta” sin participación moral genuina |
La aporía de la amplificación fenomenológica de las trayectorias
Una AGI (escenario B) podría determinar estructuralmente qué configuración de sistema alcanza la mayor calidad A-A-P. Podría resolver conflictos entre trayectorias según criterios estructurales, simular consecuencias a largo plazo. Pero sin qualia le falta quizá la capacidad de decidir si esa optimización es siquiera deseable. Analogía: un ordenador de ajedrez puede jugar de forma óptima, pero no puede decidir si el ajedrez merece jugarse.
No seres humanos frente a AGI
La distinción decisiva no es “seres humanos frente a máquinas”, sino “sistemas dotados de qualia frente a sistemas carentes de qualia”. Si la AGI siguiera careciendo de qualia, los seres humanos (y otros sistemas dotados de qualia) podrían resultar imprescindibles para:
- Diferenciación cualitativa de trayectorias: percibir diferencias que parecen estructuralmente equivalentes pero son fenomenológicamente distintas.
- Calibración normativa: contrastar y ajustar con las intuiciones humanas las optimizaciones calculadas por la AGI.
- Fijación de fines: establecer qué debe optimizarse, y no solo con cuánta eficiencia se optimiza.
La singularidad como llamada
La intuición corriente: “la AGI se vuelve más inteligente → los seres humanos quedan obsoletos.” La perspectiva de la ética de las trayectorias: “la AGI se vuelve estructuralmente más precisa → los seres humanos deben fortalecer su calidad A-A-P para seguir siendo coconstitutivos.”
| Aspekt | Aktuell | Erforderlich |
| --- | --- | --- |
| Autonomie | Fijación de fines fragmentada, reactiva frente a la tecnología | Autorreflexión colectiva más clara: ¿qué queremos como especie? |
| Anschlussfähigkeit | Desacoplamiento entre tecnología y sociedad | Coconstitución consciente: híbridos ser humano-AGI como nuevos sistemas emergentes |
| Persistenz | Resistencia o euforia ingenua | Persistencia adaptativa: transformación en lugar de sustitución |
KIKOLAUS como patrón precursor
La génesis de este escrito demuestra ya el patrón: ser humano (Nikolaus): intencionalidad, orientación normativa, decisiones conceptuales. IA (Claude, GPT): estructuración, comprobación de coherencia, escalado de la producción textual. Esta simbiosis funciona porque los papeles son complementarios. La IA no es “herramienta” (demasiado pasiva) ni “coautora” en sentido pleno (ninguna intencionalidad), sino coactora estructural.
Preguntas abiertas
- ¿Es el anclaje fenomenológico una condición trascendental de la ética de las trayectorias?
- ¿Existen diferencias operacionalizables entre una evaluación A-A-P basada en qualia y una sin qualia?
- ¿Cómo se toman las decisiones cuando la precisión estructural (AGI) y el anclaje fenomenológico (ser humano) divergen?
La ética de las trayectorias reclama investigación empírica, no una resolución especulativa.