Blog
Qui contrôle le développeur IA ? Une QA indépendante pour les logiciels créés avec l'IA
· 5 min de lecture
Votre prestataire vous présente une nouvelle application. Elle a été développée en une semaine, elle a l'air soignée et le développeur affirme : « Testé, tout fonctionne. » Deux semaines après la mise en production, on découvre qu'un montant de facture tombe sur le mauvais jour aux alentours de minuit et qu'un collaborateur peut voir plus de choses que prévu.
Ce n'est pas forcément de la négligence. C'est ce qui arrive quand la même partie développe et évalue. Avec un logiciel créé à l'aide de l'IA, ce phénomène est encore plus marqué, car le développeur travaille à toute vitesse et valide son propre travail avec la même assurance.
Le développeur qui se corrige lui-même
Un outil d'IA qui écrit du code est aussi très doué pour rédiger une conclusion rassurante. « Les tests passent » et « la fonctionnalité marche » sortent facilement d'un tel outil, même quand rien n'a réellement été essayé. Nous l'avons constaté bien des fois dans nos propres développements. Notre règle empirique : ne demandez jamais une confirmation, demandez un résultat mesuré. Pas « est-ce que ça marche ? », mais « montrez-moi ce que vous voyez sur cet écran quand vous vous connectez en tant que planificateur ».
La recherche montre qu'il ne s'agit pas d'une simple impression. Veracode fait exécuter des tâches de programmation à des modèles d'IA et vérifie si le résultat est sécurisé. Leur 2026 GenAI Code Security Report indique que le taux moyen de réussite en matière de sécurité, tous modèles confondus, est de 56 %, à peine différent des 55 % du premier rapport. Il précise aussi qu'environ 44 % des tâches de programmation testées ont produit une vulnérabilité à risque. Les modèles s'améliorent donc pour produire du code qui tourne, mais pas automatiquement pour produire du code sûr.
L'étude de DORA sur l'IA dans les équipes de développement va dans le même sens. Elle indique que 30 % des développeurs ont peu ou pas confiance dans le code généré par l'IA. Cette même page affirme qu'un usage plus intensif de l'IA va de pair avec un débit plus élevé, mais aussi avec plus d'instabilité dans la livraison logicielle. Développer plus vite ne signifie donc pas automatiquement moins d'erreurs. Le temps gagné à l'écriture peut être reperdu lors du contrôle. Et si personne ne contrôle, il est perdu dès la première panne.
Ce que signifie « indépendant » ici
Une QA indépendante n'est pas un grand mot réservé aux grandes organisations. C'est une exigence simple : la personne qui contrôle n'a aucun intérêt à répondre « c'est bon » et n'a pas réalisé le travail elle-même. Il peut s'agir d'un collègue qui n'a pas participé au développement. Il peut s'agir d'un second modèle d'IA qui relit d'un œil critique avec un autre cadre de consignes. Il peut s'agir du donneur d'ordre lui-même, à condition qu'il dispose d'une liste de points concrète à vérifier. La leçon que nous tirons de notre propre pratique : laissez quelqu'un d'autre rejeter le résultat avant qu'il soit déclaré « terminé ». Un second regard repère ce que le développeur ne voit plus.
Les contrôles automatiques en font assurément partie, mais ne le remplacent pas. OutSystems propose par exemple un AI Mentor System qui, selon la page produit, effectue automatiquement toutes les douze heures des revues de code approfondies portant sur la maintenabilité, la sécurité et les performances. C'est utile : cela aide à détecter le code inutilisé et d'autres schémas problématiques. Mais une telle revue examine la qualité de la construction. Savoir si votre ligne de facture est juste, si votre planificateur voit les bonnes informations et si votre client reçoit un certificat correct est une autre question. Pour cela, il faut quelqu'un qui connaît le processus et le confronte aux règles métier.
Là où cela coince en pratique
Dans notre pratique de développement, ce sont toujours les mêmes types d'erreurs qui reviennent. Ce ne sont pas des erreurs spectaculaires, mais précisément celles qu'un développeur qui vérifie son propre travail laisse passer :
- Fuseaux horaires. Dans certains systèmes, « aujourd'hui » est calculé dans un autre fuseau horaire qu'aux Pays-Bas. Aux alentours de minuit, vous vous retrouvez alors décalé d'un jour.
- Ordre de tri. Une liste qui doit afficher le moins cher en premier est correcte dans la maquette mais pas dans l'application, parce que le tri n'est défini nulle part dans les données.
- Rôles. Un écran sans rôle clairement défini devient un détail oublié. Configurer les droits après coup est justement le genre de travail qui passe à la trappe.
- Fausses manipulations. Un bouton de suppression sans étape de confirmation fonctionne jusqu'au jour où quelqu'un clique dessus pendant une démonstration.
- Obsolescence. Des données de démonstration liées à « aujourd'hui » sont vides une semaine plus tard, et cela arrive justement pendant un rendez-vous client.
- Avertissements accumulés. Des avertissements de compilation et de validation qui s'accumulent rendent invisible une nouvelle erreur, bien réelle.
Un rapport de test affichant « tous les tests au vert » ne vous dit rien sur aucun de ces points. Des tests au vert prouvent que la fonction fait ce que le test demande, pas que la personne qui l'utilise obtient ce dont elle a besoin. C'est pourquoi nous testons le parcours qu'un humain suit : se connecter avec un vrai rôle, effectuer la tâche, regarder ce qui s'affiche à l'écran.
Sur une plateforme comme celle de MEA Beveiliging, où, comme l'indique notre page projets, les revendeurs gèrent leurs propres installations, les flux SEPA se déroulent automatiquement et les certificats sont générés immédiatement, une erreur de logique n'est pas un problème cosmétique. Plus une application agit de manière autonome, plus un contrôle indépendant est rentable. Cela vaut pour les applications développées avec l'aide de l'IA comme pour celles dans lesquelles des agents IA interviennent.
Qu'est-ce que cela signifie pour votre entreprise ?
Vous n'avez pas besoin de créer un service de test. En revanche, vous devez convenir de qui rejette le travail avant sa mise en production.
- Séparez le développement et l'évaluation. Demandez à votre prestataire qui contrôle la livraison si ce n'est pas le développeur. Si la réponse est « le développeur lui-même », demandez un second regard : celui d'un collègue, d'un autre modèle ou le vôtre.
- Rédigez la liste de contrôle à l'avance. L'objectif en une phrase, ce qui ne doit jamais être partagé avec la production, et si les tests se font avec des données synthétiques ou réelles. Ajoutez-y les rôles qui doivent pouvoir se connecter et ce que chacun peut ou ne peut pas voir. Cela évite les discussions après coup.
- Exigez des résultats mesurés. N'acceptez pas un « ça marche », mais un compte rendu : ce qui a été fait, avec quel rôle, et quel en a été le résultat. Une capture d'écran ou une exécution d'exemple concrète vaut mieux qu'une confirmation.
- Testez le parcours réel, y compris autour de minuit. Parcourez le processus comme le fait votre collaborateur, y compris les cas limites : changements de date, un collaborateur sans droits, une fausse manipulation.
Vous souhaitez savoir comment nous procédons, ou faire relire une livraison par un regard indépendant ? Consultez aussi notre article sur l'intérêt de faire d'abord valider une maquette et ce qui vous permet de garder la main quand vous développez avec l'aide de l'IA dans OutSystems. Ou contactez-nous pour un échange sans engagement.