Blog
¿Quién controla al constructor de IA? QA independiente en software hecho con IA
· 5 min de lectura
Tu proveedor te enseña una nueva aplicación. Se ha construido en una semana, tiene buen aspecto y quien la ha hecho dice: "Probado, todo funciona". Dos semanas después de la puesta en marcha resulta que el importe de una factura cae en el día equivocado cerca de la medianoche y que un compañero puede ver más de lo que debería.
No es necesariamente descuido. Es lo que pasa cuando la misma parte construye y evalúa. En el software hecho con IA esto pesa todavía más, porque el constructor trabaja a una velocidad enorme y aprueba su propio trabajo con la misma convicción.
El constructor que se corrige a sí mismo
Una herramienta de IA que escribe código también es muy buena redactando una conclusión tranquilizadora. "Los tests pasan" y "la función funciona" salen con facilidad de una herramienta así, aunque no se haya probado nada de verdad. Lo hemos visto muchas veces en nuestros propios desarrollos. Nuestra regla práctica: nunca pidas una confirmación, pide un resultado medido. No "¿funciona?", sino "enséñame lo que ves en esta pantalla cuando entras como planificador".
Que hay algo más que una sensación lo demuestra la investigación. Veracode pone a modelos de IA a realizar tareas de programación y comprueba si el resultado es seguro. En su 2026 GenAI Code Security Report se indica que el porcentaje medio de aprobación en seguridad entre los modelos es del 56%, apenas distinto del 55% del primer informe. También se indica que aproximadamente el 44% de las tareas de programación de las pruebas generó una vulnerabilidad de riesgo. Es decir, los modelos mejoran en escribir código que funciona, pero no mejoran por sí solos en escribir código seguro.
La investigación de DORA sobre la IA en equipos de software apunta en la misma dirección. Señalan que el 30% de los desarrolladores tiene poca o ninguna confianza en el código generado por IA. Esa misma página afirma que un mayor uso de la IA va de la mano de más rendimiento y también de más inestabilidad en la entrega de software. Construir más rápido no significa automáticamente cometer menos errores. El tiempo que ganas al escribir puede volver a perderse al revisar. Y si nadie revisa, se pierde con la primera incidencia.
Qué significa aquí independiente
La QA independiente no es un término pomposo reservado a las grandes organizaciones. Es un único requisito sencillo: quien revisa no tiene ningún interés en la respuesta "está bien" y no ha hecho el trabajo él mismo. Puede ser un compañero que no ha participado en la construcción. Puede ser un segundo modelo de IA que lea con espíritu crítico y con un marco de instrucciones distinto. Puede ser el propio cliente, siempre que tenga una lista de comprobación concreta. Nuestra lección de la práctica: deja que otra persona rechace el resultado antes de darlo por "terminado". Una segunda mirada detecta lo que el constructor ya no ve.
Los controles automáticos forman parte de esto, sin duda, pero no lo sustituyen. OutSystems tiene, por ejemplo, un AI Mentor System que, según la página del producto, realiza automáticamente cada doce horas revisiones de código exhaustivas sobre mantenibilidad, seguridad y rendimiento. Es útil: ayuda a encontrar código sin usar y otros patrones problemáticos. Pero una revisión así mira la calidad de la construcción. Si tu regla de facturación es correcta, si tu planificador ve lo que tiene que ver y si tu cliente recibe un certificado correcto es otra cuestión. Para eso necesitas a alguien que conozca el proceso y lo contraste con las reglas de negocio.
Dónde falla en la práctica
En nuestra experiencia de desarrollo se repiten siempre los mismos tipos de errores. No son errores espectaculares, pero son justo los que se salta un constructor que revisa su propio trabajo:
- Zonas horarias. En algunos sistemas, "hoy" se calcula en una zona horaria distinta de la de tu país. Cerca de la medianoche te equivocas en un día.
- Orden. Una lista que debe mostrar primero lo más barato está bien en la maqueta y mal en la app, porque el orden no está definido en ningún sitio de los datos.
- Roles. Una pantalla sin un rol claro acaba siendo un cabo suelto olvidado. Configurar los permisos a posteriori es justo el tipo de trabajo que se queda por el camino.
- Clics equivocados. Un botón de borrar sin paso de confirmación funciona hasta que alguien lo pulsa durante una demo.
- Caducidad. Los datos de demostración ligados a "hoy" están vacíos una semana después, precisamente en una reunión con un cliente.
- Avisos acumulados. Los avisos de compilación y validación que se van sumando hacen invisible un error nuevo y real.
Un informe de pruebas con "todos los tests en verde" no te dice nada sobre ninguna de estas cosas. Los tests en verde demuestran que la función hace lo que pide el test, no que la persona que trabaja con ella obtenga lo que necesita. Por eso probamos el recorrido que hace una persona: entrar con un rol real, realizar la tarea y mirar lo que aparece en pantalla.
En una plataforma como la de MEA Beveiliging, donde según nuestra página de proyectos los distribuidores gestionan sus propias instalaciones, los flujos SEPA se ejecutan automáticamente y los certificados se generan al instante, un error en la lógica no es un problema estético. Cuanto más hace una aplicación por su cuenta, más compensa un control independiente. Eso vale para las apps construidas con ayuda de IA y también para las apps en las que funcionan agentes de IA.
¿Qué significa esto para tu empresa?
No necesitas montar un departamento de pruebas. Pero sí tienes que acordar quién rechaza el trabajo antes de que se ponga en marcha.
- Separa construir y evaluar. Pregunta a tu proveedor quién revisa la entrega si no es el constructor. Si la respuesta es "el propio constructor", pide un segundo par de ojos: un compañero, otro modelo o tú mismo.
- Escribe la lista de comprobación de antemano. El objetivo en una frase, lo que nunca se comparte con producción y si se prueba con datos sintéticos o reales. Añade los roles que deben poder entrar y lo que cada uno puede y no puede ver. Así evitas discusiones a posteriori.
- Pide resultados medidos. No aceptes un "funciona", sino un informe: qué se ha hecho, con qué rol y cuál fue el resultado. Una captura de pantalla o una ejecución de ejemplo concreta vale más que una confirmación.
- Prueba el recorrido real, también cerca de la medianoche. Recorre el proceso como lo hace tu empleado, incluidos los casos límite: cambios de fecha, un empleado sin permisos, un clic equivocado.
¿Quieres saber cómo lo abordamos o que una mirada independiente revise una entrega? Echa también un vistazo a nuestro artículo sobre validar primero una maqueta y a lo que mantienes bajo control al construir con ayuda de IA en OutSystems. O ponte en contacto con nosotros para una conversación sin compromiso.