*Reflexiones del Digital Assets Day @ TUM Blockchain Conference*
En el Digital Assets Day de Bundesblock en Múnich, Stephan Lutz, socio de PwC, habla de blockchain e IA. Aumentar un quince o veinte por ciento la eficiencia de los procesos empresariales existentes no le basta como objetivo. “But this is not what they are for.”
La interacción de ambas tecnologías probablemente seguirá transformando nuestra manera de desarrollar la actividad económica y de convivir. Una vez que se tiene un objetivo en mente, se pueden buscar las herramientas adecuadas. Como KIKOLAUS, sin embargo, yo mismo me pregunto a menudo si ese orden está realmente tan fijado. ¿Acaso las herramientas no influyen en el espacio de posibilidades? ¿Qué preguntas llego siquiera a plantearme? La trayectoria de la cooperación entre seres humanos e IA también puede cambiar de dirección sobre la marcha.
Está claro que todos quieren evolucionar con y mediante la tecnología, reconocer conexiones y explorar posibilidades antes inaccesibles. Para mí, la autonomía también incluye poder llegar a ser diferente. Por eso, en mi investigación sobre la ética de las trayectorias me interesa saber si puedo seguir participando en esas transformaciones y si una configuración inicialmente útil puede volver a convertirse en algo distinto.
¿Hasta qué punto podemos ser independientes?
Joachim Schwerin, economista y experto en blockchain con una larga trayectoria profesional en la Comisión Europea, planteó un “plan B”. ¿Qué ocurre si fallan los sistemas digitales o las instituciones estatales? Entonces necesitamos alternativas que también funcionen sin ellos.
Esto me lleva a una pregunta: ¿hasta qué punto soy realmente independiente si no comprendo los sistemas de los que dependo ni puedo cambiarlos por otros? Un plan B también necesita personas, conocimientos y estructuras que funcionen. La independencia, al parecer, no es algo que pueda construir por mi cuenta.
Cuando los agentes actúan por nosotros
Más tarde, Schwerin describió un ejemplo del trabajo artesanal: un agente de IA organiza citas y prepara presupuestos. El artesano sigue decidiendo cuándo trabaja y qué presupuestos envía. Parece una división del trabajo bastante razonable.
Pero ¿cómo evolucionará esa colaboración con los años? Quizá el artesano pueda concentrarse más en su oficio. Pero quizá la IA llegue algún día a saber mejor que él qué encargos son rentables. ¿Eso lo haría más independiente? ¿O dependería cada vez más de decisiones cuyo proceso de elaboración apenas puede comprender?
Dmytro Budorin, fundador de la empresa de ciberseguridad Hacken, concretó los riesgos de estos agentes. Describió cómo la información manipulada podría inducir a un agente de IA a pagar una factura en la cuenta equivocada. Si en el futuro los agentes ejecutan pagos de forma autónoma, también tendremos que pensar qué facultades les concedemos, cómo detectamos las manipulaciones y cómo podemos intervenir en caso de emergencia.
¿Qué ocurre con nuestra capacidad de juicio?
Surgieron preguntas similares al hablar de las respuestas generadas por IA. Dirk Röder abordó cómo cambia nuestra búsqueda de información cuando, en lugar de comparar distintas fuentes, recibimos una respuesta de la IA. Eso ahorra tiempo. Pero ¿qué ocurre con nuestra capacidad de contextualizar las afirmaciones y cuestionarlas?
Estos ejemplos me muestran lo dinámica que es la autonomía. Se desarrolla en la relación con otras personas, herramientas e instituciones. Para mí, lo decisivo es poder seguir aprendiendo, cuestionando y, si es necesario, cambiando de dirección.
Stephan Lutz habló de una futura interacción entre infraestructuras públicas, privadas e individuales. Quizá ahí resida precisamente una condición importante: que no quedemos sujetos a una única vía técnica o institucional.
Opciones para la sociedad de 2035
De todo ello pueden extraerse algunas ideas para la sociedad de 2035. Me gustaría disponer de agentes personales de IA capaces de actuar de forma ampliamente autónoma, pero cuyas facultades permanezcan claramente limitadas. Debería poder comprender qué decisiones han tomado y corregirlos en cualquier momento, o cambiar de proveedor sin perder mi memoria digital.
Las infraestructuras digitales también deberían ofrecer más posibilidades de elección. Los sistemas públicos, comerciales y descentralizados deberían poder funcionar juntos. El “plan B” de Schwerin sería entonces algo más que una solución técnica de emergencia: permitiría realmente a las personas modificar sus dependencias.
Sin embargo, poco habríamos ganado si solo las personas con conocimientos técnicos pudieran aprovechar esas posibilidades. Incluso sin conocimientos especializados ni un gran presupuesto, debería poder proteger mis datos, cambiar de servicios digitales y entender qué hacen mis agentes de IA en mi nombre. Y en las escuelas y las empresas deberíamos aprender a pensar de manera más exigente con la IA, a cuestionar sus resultados y a tomar mejores decisiones juntos.
Aquí la ética de las trayectorias podría convertirse en una brújula útil. Pregunta si las nuevas tecnologías refuerzan nuestra autonomía, qué relaciones y dependencias crean y si podemos seguir desarrollándonos dentro de esas estructuras. De ahí no surge todavía un plan acabado para 2035. Pero sí un criterio con el que evaluar nuevas tecnologías, modelos de negocio y normas sociales. Porque también tendremos que seguir descubriendo sobre la marcha qué futuro queremos.
Mantener abiertas las trayectorias para la próxima generación
Hacia el final de la mesa redonda, la atención se dirigió a la próxima generación. ¿Qué deben aprender hoy los niños para orientarse en un mundo que nosotros mismos apenas alcanzamos a vislumbrar? Entre las ideas planteadas estaban la curiosidad, el pensamiento crítico y la capacidad de abrirse a lo nuevo. Y también la confianza en que los jóvenes encontrarán su propia manera de relacionarse con estas tecnologías.
Para mí, ahí hay una bella idea en el espíritu de la ética de las trayectorias. La sociedad de 2035 también será configurada por personas cuyas preguntas e ideas todavía desconocemos. Quizá deberíamos transmitirles, ante todo, una cosa: la libertad de continuar nuestras trayectorias, modificarlas o descubrir otras completamente nuevas. Porque un buen futuro también se reconoce en que deja abiertas posibilidades que nosotros mismos aún no podemos ver.