La IA debería encargarse del trabajo rutinario, reducir costes y acelerar las decisiones. Pero un mejor rendimiento técnico no produce por sí solo un orden social mejor. Para comprender el rechazo a la IA, hay que preguntarse: ¿qué mejora, para quién y a qué posibilidades futuras de actuar se renuncia a cambio?
Pensemos en una administración pública que introduce IA para tramitar solicitudes. El sistema resume documentos y prepara decisiones. El personal sigue revisándolas y firmándolas. Los solicitantes podrían recibir respuestas antes y el personal disponer de más tiempo para los casos difíciles.
Sin embargo, la dirección también podría dedicar todo el tiempo ahorrado a aumentar el número de expedientes. Se reducirían entonces las oportunidades de revisión, mientras que la responsabilidad seguiría siendo la misma. Si el personal se opone a este cambio, no necesariamente cuestiona la utilidad de la IA. Cuestiona que la forma elegida de aprovechar ese beneficio suponga una mejora.
Una confusión antigua
A partir de 1811, trabajadores textiles ingleses destruyeron telares y máquinas de tejer punto. Estos destructores de máquinas, también llamados luditas, luchaban a comienzos del siglo XIX, entre otras cosas, contra el deterioro de los salarios y la desvalorización del trabajo cualificado. Ellos mismos estaban familiarizados con las máquinas. Por eso, sus conflictos no pueden reducirse al miedo a una tecnología desconocida.
La comparación histórica no justifica destruir máquinas. Permite distinguir dos cosas: una forma de producir puede volverse más eficiente mientras quienes hasta entonces vivían de ella pierden sus medios de subsistencia. La ganancia técnica no resuelve la cuestión social.
El ejemplo de la administración plantea un conflicto distinto. Pero también aquí responder con el mayor número de expedientes resueltos eludiría la objeción. Plazos de espera más breves, decisiones fundadas, condiciones de trabajo viables y gasto público deben entrar conjuntamente en la evaluación. Ninguna de estas cuestiones desaparece porque el software trabaje más rápido.
Cómo la ganancia de hoy cambia el mañana
El análisis desde la ética de las trayectorias sigue este conflicto más allá del reparto inmediato de los beneficios. Pregunta si la nueva forma de trabajar también preserva la capacidad de reconocer sus efectos posteriores y de seguir participando en las decisiones sobre su uso.
Si el personal revisa por sí mismo con menor frecuencia y quienes se incorporan apenas tienen oportunidades de aprender a ejercer el juicio profesional, la administración podría rendir más al principio y decidir con menos autonomía a largo plazo. Al disminuir sus competencias, también podría reducirse su influencia sobre el proveedor tecnológico. Mantendría la facultad de aprobar las decisiones, pero ejercerla responsablemente sería más difícil. Esta evolución debe investigarse; no queda demostrada por el mero hecho de introducir IA.
La propia tecnología tampoco queda exenta de examen. La información que hace accesible y las correcciones que permite configuran las posibilidades de actuar. Sus objetivos también pueden ser problemáticos: una administración profesionalmente competente podría aplicar de forma fiable un procedimiento cuyos criterios no hagan justicia a los solicitantes. Un buen control no convierte en correcto un propósito inadecuado.
Para el alineamiento, esto significa que no basta con orientar de manera fiable la IA hacia requisitos ya establecidos. La colaboración también debe permitir modificarlos cuando la experiencia aporte razones fundadas para hacerlo.
Qué tendría que demostrar la introducción
En el ejemplo de la administración, antes de ampliar el uso habría que demostrar que el personal puede reconocer y corregir errores. Por ello, la información independiente, el tiempo suficiente para revisar y las oportunidades de aprendizaje deben formar parte del plan de uso. Si solo es posible aumentar el número de expedientes eliminando esas condiciones, hay que cambiar el objetivo.
La experiencia de los solicitantes también debe poder influir en el funcionamiento. Si las reclamaciones muestran que determinadas circunstancias vitales se clasifican sistemáticamente de forma errónea, no basta con corregir resoluciones individuales. En ese caso, deben revisarse las categorías o las reglas de uso. Cambiar de sistema o dejar de utilizarlo debe seguir siendo posible sin paralizar los servicios necesarios.
Esto no exige mantener inalteradas las profesiones ni dar la razón a toda crítica. La resistencia también puede defender las ventajas de un grupo concreto. Pero quien elimina tareas debe explicar cómo se sostendrán en el futuro el aprendizaje, la responsabilidad y las transiciones profesionales. Una promesa genérica de prosperidad no basta.
La aceptación de la IA no es, por tanto, el objetivo con el que debe juzgarse su introducción. Lo decisivo es que sus beneficios se integren en una organización en la que las personas afectadas puedan seguir juzgando, actuando y produciendo cambios. Que la tecnología cumpla esta exigencia debe comprobarse a lo largo del proceso, no solo en su balance de rendimiento.