Des usages invisibles
Assistants grand public, fonctions IA activées par défaut dans les SaaS, agents branchés sur la messagerie : la DSI découvre les usages après coup, quand elle les découvre.
Assistants, agents, API : les usages s'installent plus vite que les règles, dans le public comme dans le privé. Qui les a autorisés, avec quelles données, sur quelle analyse ? Le plus souvent, personne ne peut le dire.
CARITIS éclaire ces usages et les rend gouvernables : recensés, évalués, décidés, prouvés.
Le constat
Le problème n'est plus d'autoriser ou non tel outil. Le problème est de gouverner un portefeuille d'usages qui change chaque semaine — et d'en garder la preuve.
Assistants grand public, fonctions IA activées par défaut dans les SaaS, agents branchés sur la messagerie : la DSI découvre les usages après coup, quand elle les découvre.
Contrats, dossiers d'usagers, code source, données RH : collés dans une fenêtre de chat, ils quittent le périmètre sans qu'aucune règle ne l'ait prévu.
Qui a autorisé la mise en production de cet agent ? Sur quelle analyse de risque ? Avec quelle supervision humaine ? Le plus souvent, personne ne peut le dire.
Le règlement européen sur l'IA s'applique. Collectivités, établissements publics, PME, ETI : tous doivent pouvoir démontrer ce qu'ils font de l'IA.
Le registre
by CARITIS
Une plateforme conçue pour structurer, piloter et démontrer la gouvernance des systèmes d'IA — le registre où l'on sait enfin qui utilise quoi, qui a décidé, et sur quelles preuves. Plutôt qu'un tableur de conformité de plus.
Cadre de référence : ISO/IEC 42001 et ISO/IEC 27001, en appui d'une mise en conformité AI Act.
In development
Le cycle couvert
DISCOVERY / ASSESS → BUILD → DECIDE → OPERATE → CHANGE → RE-ASSESS
Cas d'usage & risques
Recenser les usages de l'IA, les classer par niveau de risque et tenir le registre des impacts.
Contrôles
Organiser les contrôles, leurs responsables et leur fréquence de revue.
Preuves
Rattacher chaque contrôle à des preuves datées, dont la fraîcheur est suivie.
Décisions
Tracer les acceptations de risque et les mises en production : approbateur, justification, date de revue.
Chaque changement significatif déclenche une réévaluation explicable et historisée, avec traçabilité d'audit de bout en bout.
Quarante-cinq minutes, deux cas d'usage réels, et vous savez où vous en êtes : finalité, données, risques, preuves attendues.