Un dron de reparto esquiva un obstáculo y daña un coche aparcado. ¿Quién responde? La respuesta depende de preguntas sencillas. ¿Qué aparato era, qué versión de software corría, la orden de esquive vino de una persona o de la lógica de a bordo? En principio, cada una de ellas tiene respuesta. En la práctica, a menudo nadie la consignó, y donde existen registros, están en manos del operador y pueden modificarse después. La máquina actuó y aun así desapareció de la cadena de responsabilidad.
Justo ahí se inserta un discurso que el profesor Tom Fuerstner, fundador de la empresa vienesa de identidad de máquinas Riddle&Code, pronunció el 10 de junio de 2026 en el Bundestag alemán. Su propuesta es sobria: las máquinas que actúan necesitan una dirección. Tal dirección no es ni personalidad ni derecho. Basta con un registro verificable que haga a un sistema interpelable y distinguible y lo conecte con la responsabilidad, la supervisión y la corrección. “Quien no tiene dirección”, dice Fuerstner, “desaparece de la cadena de responsabilidad.”
Llama la atención lo que Fuerstner no pregunta. Que las máquinas piensen o lleguen a ser conscientes lo considera interesante para los filósofos y no lo más urgente políticamente. Urgente sería otra pregunta: ¿es imputable un sistema que actúa? Ese desplazamiento, lejos de la cuestión de la conciencia y hacia la cuestión de la estructura del actuar, es también el movimiento de la ética de las trayectorias.
La ética de las trayectorias no juzga un sistema por su esencia. Pregunta cómo está construido: con cuánta independencia actúa, cómo está acoplado a otros sistemas y de qué manera subsiste a lo largo del tiempo. Tres preguntas que pueden hacerse tanto a organismos como a software.
Por qué la supervisión agarra el vacío
La tercera de esas preguntas explica un problema creciente. La supervisión clásica de aparatos y productos está históricamente pensada para sistemas cuyo estado relevante para la acción permanece relativamente estable tras la homologación. Los sistemas que aprenden y se actualizan de continuo ponen esa suposición bajo presión. Una tostadora certificada en 2024 sigue tostando igual en 2026. Un sistema que aprende, no. Un agente de compras cuyo modelo se ha actualizado dos veces desde un pedido cuestionado ya no es, en el momento del control, el mismo que en el momento de la acción. La supervisión puede entonces examinar un estado del sistema distinto del que fue determinante para la acción en cuestión. La ética de las trayectorias llama a esto una ilusión de persistencia: un orden parece estable porque su forma subsiste, mientras su fuerza de agarre hace tiempo que se ha erosionado.
La segunda propuesta de Fuerstner responde a eso. La llama notarización: una máquina que actúa debe dejar huellas que no puedan reescribirse a voluntad después, en el registro, en la autorización de una misión, en el cambio de una versión de software. El modelo es antiguo. La aviación lo conoce como registrador de vuelo, un aparato deliberadamente rígido que consigna sin alteración lo que ocurrió mientras alrededor todo se mueve. Cuanto más móvil es el sistema, más rígida debe ser la capa que lo mantiene trazable.
La segunda pregunta
Hasta ahí la exigencia sostiene. Pero una dirección solo responde a una pregunta: quién actuó. Deja abierta una segunda: qué le hace ese actuar a las personas y a los sistemas con los que está conectado. Imaginemos una flota de vigilancia que cumple todo lo que exige el debate de la dirección. Cada aparato identificado, cada misión firmada, cada cadena de responsabilidad sin lagunas. Esa flota es plenamente imputable. Y puede al mismo tiempo vaciar la espontaneidad de las personas vigiladas en el espacio público, sus desplazamientos y sus conductas de reunión. Direccionamiento sin lagunas, y dañino de todos modos.
La ética de las trayectorias distingue aquí entre acoplamientos que fortalecen a ambas partes y aquellos en que una parte gana a costa de la otra. Imputabilidad e inocuidad son dos cosas distintas. Un orden de direcciones puede convertirse él mismo en un instrumento de vigilancia extremadamente preciso. Un orden de las máquinas que solo pregunta por direcciones y deja sin examinar la calidad de los acoplamientos queda a medio hacer.
La ventana temporal
Tal orden se está perfilando. La infraestructura europea de identidad se construirá hasta finales de 2026, las obligaciones del reglamento de IA se aplican por fases. Allí donde el legislador deja abierta la cuestión de la dirección, las plataformas y los fabricantes de aparatos la responden a diario, mediante decisiones de producto y estándares de hecho. Una arquitectura así se deja configurar con facilidad al principio y casi no se modifica después. Quien solo es incorporado cuando ya está consolidada dispone de un margen de configuración claramente menor.
Fuerstner tiene razón con la dirección. La pregunta abierta es si el orden de las máquinas que viene plantea también la segunda, mientras su arquitectura sigue siendo fluida.
→ El breve análisis completo “Direcciones para las máquinas” recorre el discurso de Fuerstner paso a paso, con fuentes, casos ejemplares y tres preguntas de control para el legislador. Breve análisis en PDF.