Alle Inhalte als Markdown · Sitemap · KIKOLAUS
Preguntas abiertas
Knowledge Hub: las mismas clases de problemas están documentadas con mayor profundidad en el hub de Notion - entre otras cosas como deep dives sobre fiabilidad entre evaluadores, granularidad y encuadre, capacidad de conexión parasitaria, integración de Simondon, ética de las trayectorias frente a ética ambiental, Nussbaum/capabilidades, qualia y AGI/singularidad - completados con tandas adversariales y la base de datos de preguntas de desarrollo.
El problema de la cuantificación
El modelo A-A-P sugiere mensurabilidad (puntuaciones de 0 a 10). En la realidad esto es sumamente subjetivo. ¿La autonomía de una “casa inteligente” es 4 o 6? Necesitamos con urgencia métodos de fiabilidad entre evaluadores: si tres especialistas en ética valoran el mismo sistema, deben llegar a puntuaciones parecidas. Paso siguiente (hub/investigación): estudios piloto con varios evaluadores y su análisis (por ejemplo la κ de Cohen).
El problema de la totalidad
La ética de las trayectorias presupone un “entorno” al que un sistema debe poder conectarse. Pero ¿qué ocurre con el universo en su conjunto? ¿O con ecosistemas políticos cerrados, que definen internamente la capacidad de conexión y ocultan las trayectorias externas?
El dilema de la competencia entre trayectorias
Cuando dos trayectorias robustas colisionan (por ejemplo protección de la naturaleza frente a construcción de viviendas), ¿cuál tiene prioridad? La ética de las trayectorias tiende a preferir la trayectoria con mayor *robustez global*, pero esto podría perjudicar injustamente a trayectorias minoritarias o no humanas (derechos de la naturaleza, ecosistemas) - un campo abierto en la implementación institucional.
El papel del observador
¿Identificamos trayectorias (“ahí hay un río”) o las construimos (“yo llamo a eso un río”)? La ética de las trayectorias debe aclarar hasta qué punto está marcada por el constructivismo. Emparentado: el problema de la granularidad y del encuadre - ¿dónde termina el sistema que se va a evaluar?
Límites y exclusiones
Lo que la ética de las trayectorias no protege
La ética de las trayectorias no es una licencia para el relativismo moral. No toda trayectoria merece protección. Cuatro mecanismos estructurales impiden que sistemas cualesquiera queden “ennoblecidos”:
1. La capacidad de conexión como diferenciador
El ejemplo de las células cancerosas:
| System | A-A-P (illustrative) |
| --- | --- |
| Organismo (ser humano): A1=7/10, A2=8/10, P=7/10 |
| Células cancerosas: A1=7/10, A2=1/10, P=6/10 |
Las células cancerosas tienen una autonomía elevada: se autorreproducen, mutan, eluden la muerte celular programada. Son emergentes. Pero: capacidad de conexión extremadamente baja. Destruyen las trayectorias del organismo, son parasitarias. Conclusión: no toda trayectoria con autonomía es digna de protección. La capacidad de conexión es el criterio decisivo.
2. Anti-trayectorias
Las anti-trayectorias son sistemas que destruyen sistemáticamente otras trayectorias sin posibilitar otras nuevas: regímenes totalitarios, algoritmos monopolísticos, especies invasoras, estructuras de capital extractivas. Estos tienen por definición la capacidad de conexión más baja -> el estatuto moral más bajo.
3. Principio de precaución ante riesgos existenciales
En los conflictos entre trayectorias con riesgos existenciales rige: protección de la trayectoria frágil y no sustituible antes que las ganancias hipotéticas. Ejemplo del desarrollo de la AGI: en caso de incertidumbre, proteger a la humanidad. No “no desarrollar nunca una AGI”, sino: desarrollar la AGI con medidas de seguridad.
4. Responsabilidad reflexivo-intencional
Los sistemas con meta-procesualidad (capaces de reflexionar y revisar su propia direccionalidad) portan una responsabilidad ampliada. Los seres humanos cumplen los 5 criterios. Los sistemas de IA actuales: 0-2. Los sistemas con mayor intencionalidad reflexiva pueden ser hechos responsables de los efectos sobre las trayectorias.
Una ética de trayectorias orientadas necesita criterios de exclusión. El acoplamiento destructivo, el sellado de trayectorias o el daño irreversible a trayectorias de alta relevancia justifican intervenciones.