Hace años estaba trabajando en una aplicación de sanidad. Teníamos que diseñar una pantalla para que el médico pudiera solicitar una radiografía, y uno de los campos era el centro al que derivar al paciente.
Como buenos informáticos —con ese impulso natural de automatizar todo lo que se mueve—, propusimos que el sistema rellenara ese campo automáticamente. Teníamos unas tablas con los centros disponibles, los criterios de derivación… parecía sencillo y eficiente.
El responsable funcional nos paró en seco.
«El médico ya sabe a qué centro tiene que ir el paciente», nos dijo. «Si automatizamos demasiado, se nos puede escapar alguna casuística que no controlamos, porque tampoco conocemos todas las posibilidades. Al final acabamos poniendo límites donde no deberían estar. Lo que tenemos que hacer es facilitarle la selección: favoritos, autocompletado. Nada más.»
Tenía razón. Y esa conversación lleva años rondándome la cabeza.
La IA es solo la siguiente capa
Lo que estamos viviendo con la inteligencia artificial es, en esencia, un salto más en el nivel de automatización. Un salto enorme, eso sí, pero con la misma trampa de siempre: la tentación de automatizarlo todo.
Y el riesgo ahora es mayor. Porque la IA no es determinista. No hace lo mismo dos veces de la misma manera. Puede alucinar —ese término tan gráfico del argot técnico, que describe cómo el modelo inventa algo con total convicción—, y eso añade una variable que las tablas de un sistema de sanidad nunca tenían.
Cuanto más se automatiza sin supervisión, más se amplía la superficie donde algo puede salir mal de una forma que no habíamos previsto.
Humano en el bucle, pero al mando
Hay una frase que se usa mucho últimamente: human in the loop. Suena bien. Ya escribí sobre quién es realmente ese humano y qué capacidad tiene de validar, porque a veces el control se convierte en decorado: el humano está ahí, pero sin entender lo que está supervisando.
Lo que yo hago va un paso más atrás: estar en el bucle, y al mando desde el principio.
No como espectador de lo que la IA decide, sino como quien dirige el proceso y delega tareas específicas —las más mecánicas, las más repetitivas— con plena conciencia de lo que está delegando y por qué.
He probado herramientas y flujos de trabajo con IA que prometían mucho, y he quitado los que no me convencían. No porque la tecnología fallara, sino porque no me daban esa sensación de control y al final era yo el que me tenía que adaptar a la herramienta.
El ritmo lo marcan las personas, no la tecnología
Hay un factor que a veces se pasa por alto en esta conversación: el rechazo.
Hay escepticismo hacia la IA, y no es irracional. Es la respuesta natural de quien ve una tecnología que cambia las reglas del juego y no sabe bien si está de su lado o en su contra.
Si automatizamos demasiado pronto —antes de que la gente haya podido interiorizar cómo funciona y qué controla—, lo único que conseguimos es alimentar ese escepticismo. La persona no entiende lo que pasa, no se fía, y acaba rechazando la herramienta.
La adopción real no la marcan las capacidades técnicas. La marcan las personas que tienen que usar esa tecnología cada día.
Cuando alguien entiende que la IA trabaja para él —que la controla, que puede corregirla, que no va a remolque de ella— el rechazo se convierte en curiosidad. Y la curiosidad, con el tiempo, en confianza.
Y entonces sí: se puede ir automatizando más. Gradualmente, con evidencias, con esa confianza ya construida.
Moraleja
El funcional de aquella pantalla de sanidad lo resumió sin saberlo: a veces la mejor automatización es la que no se hace. Lo más inteligente es facilitarle al humano que haga lo que ya sabe hacer, en lugar de intentar sustituirlo.
La IA permite cosas que antes eran impensables. Pero la velocidad a la que se adopta no la decide la tecnología: la decide la persona que tiene que usarla.
El objetivo no es que la IA haga más, sino que el humano haga mejor. Y para eso, el humano tiene que seguir llevando el volante.
¿En tu entorno habéis automatizado más de la cuenta y habéis tenido que dar marcha atrás? Cuéntamelo en LinkedIn
Relacionados sugeridos
- El «humano en el bucle»… ¿qué humano? — cuando el control humano sobre la IA se convierte en un trámite sin capacidad real de validar
- La IA como compañero de trabajo — qué pasa cuando dependes de la IA en tu día a día y de repente no está disponible
- ¿Usas más IA pero produces más valor? — más herramientas no significa mejores resultados; cuándo decidir no usarlas