Lectures et cadres pour les équipes qui évaluent et gouvernent l'IA en production.
Un score ne prouve pas qu'un système est sous contrôle. Direction, sécurité et régulateurs doivent pouvoir reconstruire ce qui a été testé, sur quelle version, avec quelles traces, quel juge, quelles preuves et quelle décision de risque résiduel.
Un système d'IA ne se juge pas seulement à la qualité de ses réponses. Il faut regarder les décisions qu'il influence, les données qu'il manipule, les actions qu'il peut déclencher et les preuves disponibles si une erreur, un audit ou un incident survient.
Stanford recense 362 incidents IA documentés en 2025, et l'OCDE a relevé un pic de 435 incidents en janvier 2026. L'IA peut sortir du pilote, mais les équipes doivent prouver qu'elle fonctionne encore après chaque changement de modèle, de données, d'instruction, d'outil ou de règle.
Si une IA aide à accorder un crédit, à détecter une fraude, à filtrer des transactions ou à répondre à des clients, ce n'est plus seulement un sujet de gouvernance des modèles. Au regard de DORA, elle peut aussi être un actif TIC (un composant technologique inscrit à votre registre DORA), une dépendance fournisseur et une source d'incident.
Un chatbot peut inventer une règle ou produire une mauvaise réponse. Un agent, lui, peut supprimer des données, envoyer des e-mails, passer des commandes ou déployer du code. Cette différence change la façon dont les équipes sécurité et gouvernance doivent aborder le risque.