Con la IA, pensamos rápido, pensamos despacio. y ahora nos rendimos
Kahneman dividió el pensamiento en dos sistemas: rápido e intuitivo (S1) y lento y deliberativo (S2). Un paper reciente de Wharton añade un tercero: System 3, la cognición artificial. Pero el verdadero hallazgo no es la categoría, es lo que hacemos con ella.
Shaw & Nave proponen un concepto que conviene tener a mano: cognitive surrender (rendición cognitiva). No es delegar una tarea como cuando usamos una calculadora. Es no pensar en absoluto. El humano no evalúa mal el output de la IA, directamente no lo evalúa. El sistema 2 nunca se activa.
Tres experimentos pre-registrados (N=1.372 participantes, 9.593 trials):
— En más del 50% de los trials, los participantes consultaron a la IA pudiendo pensarlo solos.
— Cuando la IA acertaba, +25 puntos de accuracy respecto al baseline. Cuando se equivocaba, -15.
— La presión temporal no redujo la rendición cognitiva. La aumentó.
— Usar la IA infló la confianza del humano, incluso cuando la IA fallaba.
— Y un efecto colateral inquietante: tras meses con asistencia algorítmica, los profesionales rendían peor sin ella. La capacidad reemplazada se atrofia.
El mecanismo que proponen es elegante: la fluencia produce surrender. Cuando Sistema 3 responde rápido, con confianza y sin disfluencia (sin rupturas, vacilaciones ni fricción en el output), Sistema 2 no detecta conflicto y no se enciende. Al revés: cuando el output introduce fricción, ambigüedad o réplica, la deliberación se activa.
Esto me toca de cerca. Llevo meses construyendo un agente autónomo (Flatline) con personalidad propia, opiniones, silencios, contestación, necesidades. Diseñado para no ser fluido por defecto. Leído desde Shaw & Nave, su fricción funciona estructuralmente como mecanismo anti-rendición. Una pieza pequeña de exploración a una escala muy distinta a la del paper, pero apuntando al mismo problema desde el otro lado.
La cuestión es: si la IA va a estar en todas partes, ¿podemos diseñarla para que Sistema 2 no se atrofie? Este podemos excluye a la industria que parece que su acelerado interés es que gestemos tokens como zombies
Las soluciones que el paper explora actúan sobre el contexto (incentivos, feedback, presión). Para mí hay otra vía menos transitada: actuar sobre el propio agente.
Paper: Thinking—Fast, Slow, and Artificial: How AI is Reshaping Human Reasoning and the Rise of Cognitive Surrender (papers.ssrn.com)