Hace unos días me encontré en una situación curiosa: le pido algo a un agente de Codex y, para resolverlo, se pone a generarse “sus herramientas” en Python.
El resultado que me entrega funciona, pero hay una parte que me deja incómodo: yo no conozco Python. Y si no conozco Python, mi capacidad de validar si ese script está bien hecho o si está a punto de romperse es, siendo honestos, limitada.
Y ahí me saltó una alarma que va mucho más allá del lenguaje.
El «humano en el bucle»… ¿qué humano?
En teoría, la adopción de IA en desarrollo se apoya en una idea tranquilizadora: siempre hay un humano supervisando.
Eso funciona cuando el humano entiende el terreno. Si la IA me ayuda en un proyecto Java y yo conozco Java, puedo juzgar si lo que propone encaja con lo que el proyecto requiere, si huele raro, o si me estoy comprando un problema para dentro de dos sprints.
Pero cuando la IA decide que la mejor forma de ayudar es construirse piezas en un lenguaje que yo no domino, el «humano en el bucle» empieza a parecerse más a un sello de “aprobado” que a una supervisión real. No porque haya mala fe. Porque el bucle se rompe por asimetría de conocimiento.
Cuando la IA migra cosas que tu equipo no conoce
Pienso en un escenario bastante plausible: migraciones. Por ejemplo, coger aplicaciones heredadas tipo J2EE y moverlas a frameworks más modernos, como Spring.
En el momento en que estas herramientas hagan esas migraciones “bien” de forma automática, el humano que está supervisando puede no ser quien más sabe del destino. Y entonces aparece una tensión incómoda:
- La IA puede saber más que el humano sobre “ese tema concreto”.
- Y el humano puede quedar relegado a validar por intuición, por pruebas indirectas o por confianza.
No es un problema abstracto: es un cambio de responsabilidades.
El desajuste que se cuela en los equipos
Esto conecta con otro desajuste que ya he comentado en algún post previo: cuando una parte del equipo gana productividad por la IA más rápido que otra.
Si llega un punto en el que los programadores producen mucho más de lo que un analista es capaz de “alimentar”, tienes un cuello de botella nuevo. Y si, además, la IA está empujando trabajo hacia tecnologías que el equipo no domina, el cuello de botella puede convertirse en algo peor: una revisión superficial de decisiones que nadie está en posición de discutir.
La velocidad es lo que más me preocupa
De todo esto, lo que más me inquieta no es que ocurra, sino la velocidad a la que está ocurriendo.
En mi caso, la forma de gestionar este blog en verano no tiene nada que ver con cómo lo estoy gestionando en Navidades, y no han pasado ni seis meses. Eso, llevado al desarrollo de software, es una señal clara: nuestros hábitos de validación y supervisión tienen que evolucionar al mismo ritmo que la herramienta.
Si no, el «humano en el bucle» se queda como una frase bonita… justo cuando más falta hace.
Moraleja
La promesa no era “una IA que hace cosas”, sino “una IA que hacemos responsablemente”. Y para eso, el humano en el bucle no puede ser decorativo: tiene que ser competente en lo que está validando, o el bucle deja de ser un control y pasa a ser un trámite.
¿En tu equipo quién está validando de verdad lo que hace la IA cuando el trabajo cae fuera de vuestro stack? Te leo en LinkedIn.
Diseñado en la cabeza de Iñigo, made in ChatGPT.
Relacionados sugeridos
- Cuando tu equipo se descompensa por culpa de la IA — Para ponerle nombre a los desequilibrios que aparecen cuando la productividad no sube igual en todos los roles.
- De GPTs a agentes y skills: del flujo del verano al de Navidad — Si te interesa la “aceleración” práctica, aquí cuento cómo me cambió el proceso en meses, no en años.
- ¿Y tú, en qué sigues siendo mejor que la IA? — Para aterrizar qué parte del trabajo sigue siendo humana cuando la herramienta empieza a saber más que tú en áreas concretas.