La IA se vende como magia. La ley dice que la responsabilidad es tuya.
En agosto empieza a aplicarse en España el AI Act europeo. No es una ley futura, es un reglamento de aplicación directa que ya está aquí.
¿Qué implica para cualquier empresa?
- Chatbots que se identifiquen como IA.
- Contenidos generados etiquetados.
- Formación obligatoria del equipo.
- Datos sensibles fuera de herramientas gratuitas.
- Y lo más importante: revisión humana real. La responsabilidad es de la empresa, no de la herramienta. Siempre.
Las sanciones no son simbólicas: hasta 500.000€ en leves, hasta 35 millones en muy graves. (Sin alarmismo pero con sanciones por delante)
Ahora, mi reflexión:
Vivimos en plena aceleración. Cada semana aparece una empresa vendiendo "soluciones de IA". Consultoras que hace dos años no sabían lo que era un prompt ahora venden transformación digital con IA incluida. Freelances que montan chatbots en una tarde. Startups que automatizan RRHH y atención al cliente como si la herramienta se ocupara de todo.
El mensaje del mercado: la IA es casi mágica, automatiza y escala. Pon la herramienta y olvídate.
Pero la ley dice lo contrario. El artículo 14 del AI Act exige supervisión por personas que entiendan las limitaciones del sistema, reconozcan el sesgo de automatización y puedan ignorar o parar el sistema cuando haga falta. El regulador sabe que la gente aprieta "aceptar" sin leer.
Y hay una trampa: si adaptas un modelo genérico para usos de alto riesgo (contratación, evaluación, crédito) pasas a ser proveedor automáticamente. No existe el vacío de "la culpa es de la máquina". Ellos lo dejan claro con frases como esta ("Claude es IA y puede cometer errores. Por favor, verifica las respuestas.")
La paradoja de fondo: cuanto más automatizas, más se erosiona la capacidad del operador para supervisar con criterio real. El marketing dice "casi mágica". La ley dice "necesitas personas competentes". Las dos cosas no caben en la misma frase. Dicho de otra manera cuando el coche autónomo falla te dicen que pilles el volante.
La aceleración y la regulación van en direcciones opuestas. La pregunta no es si la IA funciona. La pregunta es si la persona que firma lo que la IA produce sabe lo que está firmando.
Porque cuando falle, la responsabilidad no caerá sobre el modelo. Caerá sobre quien lo desplegó sin entenderlo.