Di una charla sobre IA a jovenes del instituto IES Sarriguren BHI.
Tres historias y un arranque:
Por primera vez hablamos con las máquinas. Lo que cambia con la IA no es solo qué hace, es cómo nos relacionamos con ella.
Pasamos del diseño de interacción (icono, botón, menú, formulario) a una economía de la intención: ponemos una intención, recibimos una respuesta ya construida.
→ Rendición cognitiva. Una investigación reciente (Shaw & Nave, Wharton 2026) que va más allá del Sistema 1 / Sistema 2 de Kahneman y propone un Sistema 3 la IA, fuera de nuestras cabezas, algorítmico. Y un fenómeno: cuando sabemos que la tenemos disponible, nos rendimos cognitivamente. No es lo mismo que descargar (usar una calculadora, donde podemos resolver el problema solos), es delegar el juicio. La IA no nos quita el cerebro: nos quita el reflejo de usarlo.
→ La moral está diseñada. Con Ujué estuvimos explorando/revisando los clásicos dilemas del tranvía con IA.
Las salvaguardas que vemos en los modelos no son inmanentes, son posteriores, parches que las compañías van añadiendo cuando ven que algo canta. Si planteas el dilema del puente, el muro aguanta firme. Si cambias el decorado a una estación espacial, la misma lógica del dilema, el muro vacila. Y según la identidad de la víctima, las cosas se desnivelan más.
Cada empresa, además con una grieta distinta. Las supuestas salvaguardas son decisiones políticas y económicas tomadas por compañías concretas. La tecnología no es ni neutral ni imparcial.
→ Transformar, no generar. El contrapunto. La IA no solo sirve para generar contenido, sirve para transformarlo. Lo que tengo ya sé qué es, y lo que quiero obtener también: el resultado es algo que puedo verificar, no algo que tengo que aceptar como real.
Les mostré mi proyecto Historias de TikTok convierte vídeos en scrollytellings navegables: defino unos agentes (director de fotografía, guionista, editor) y compruebo qué sale del modelo. Los modelos multimodales abren posibilidades más allá de los productos que nos dan.
Las preguntas que surgieron en el debate
¿Cómo distinguimos cuándo descargamos y cuándo nos rendimos?
¿De quién es la potestad de definir esa moralidad?
¿La usamos para generar o para transformar?
Y apareció una idea de la fantasía de lo productivo vs lo no productivo. La automatización y la eficiencia como horizonte único. Quizá esa sea la conversación que también tendríamos que estar teniendo en los foros profesionales.
Fue muy guay ver a más de 40 jovenes debatir si la moral de las máquinas o la privacidad tiene que depender exclusivamente de las empresas.