AI Act et logiciels métiers

Découvrez nos cas concrets et planifiez une démo gratuite avec nos experts.

AI Act et logiciels métiers : comment préparer votre projet IA ?

Intégrer l’intelligence artificielle à un logiciel métier engage des choix qui dépassent la technologie. Quelles données seront utilisées ? Qui vérifiera les résultats ? Quel rôle jouera l’IA dans les décisions ? L’AI Act invite les entreprises à examiner ces questions dès le cadrage du projet.

Un assistant dans votre CRM, une analyse automatique de documents, un outil de recrutement ou une fonction de recommandation dans votre ERP : derrière le terme « IA », les usages et leurs conséquences varient considérablement.

Pour un dirigeant ou un DSI, la première étape consiste à définir précisément ce que le système fera et dans quelles conditions il sera utilisé. C’est sur cette base que les exigences applicables pourront être identifiées.

  • AI Act : de quoi parle-t-on ?
  • Décrire l’usage avant de choisir la technologie
  • Clarifier les responsabilités de chaque acteur
  • Examiner les données et les accès
  • Prévoir un contrôle humain qui fonctionne réellement
  • Tester les erreurs avant qu’elles deviennent des incidents
  • Informer et accompagner les utilisateurs
  • Faire de ces questions une partie du cahier des charges

AI Act : de quoi parle-t-on ?

L’AI Act est le règlement européen sur l’intelligence artificielle. Il établit un cadre qui distingue notamment les pratiques interdites, les systèmes à haut risque et certains usages soumis à des obligations de transparence. Toutes les applications intégrant de l’IA ne relèvent donc pas des mêmes exigences. (Source : Commission européenne, Shaping Europe’s digital future)

Le calendrier est progressif et a été modifié en 2026. Selon les informations officielles de la Commission européenne, les principales étapes comprennent :

Date Étape
2 février 2025 Application des premières interdictions et des dispositions relatives à la maîtrise de l’IA
2 août 2025 Application des règles concernant les modèles d’IA à usage général
2 août 2026 Application de la majorité des autres dispositions, notamment certaines obligations de transparence
2 décembre 2027 Application des règles relatives aux systèmes à haut risque relevant de l’annexe III
2 août 2028 Application des règles relatives aux systèmes à haut risque intégrés à certains produits réglementés

Ces dates doivent être rapprochées du système concerné et des éventuelles dispositions transitoires. Elles ne constituent pas un délai général permettant de reporter toute démarche de conformité. (Source : AI Act Service Desk)

Pour une vue d’ensemble du cadre réglementaire, voir aussi notre article IA souveraine, RGPD et AI Act.

1. Décrire l’usage avant de choisir la technologie

« Ajouter de l’IA à notre logiciel » ne suffit pas à définir un projet.

Une description utile précise la tâche, les utilisateurs, les données mobilisées et les conséquences possibles d’une erreur.

Prenons deux fonctionnalités :

  • Un assistant qui prépare un compte rendu à relire.
  • Un outil qui classe des candidatures pour sélectionner les personnes à rencontrer.

Les enjeux diffèrent. Le recrutement et la sélection de candidats figurent parmi les usages mentionnés à l’annexe III du règlement. Leur qualification précise demande d’examiner la finalité du système et les conditions prévues par le texte. (Source : AI Act Service Desk)

Au stade du cadrage, rédigez une fiche simple : ce que l’IA doit faire, ce qu’elle peut déclencher et ce qu’elle ne doit pas décider seule.

Cette fiche servira aussi à construire les tests et à éviter que le périmètre s’étende sans nouvelle analyse.

2. Clarifier les responsabilités de chaque acteur

Un projet peut associer un fournisseur de modèle, un éditeur, une agence de développement, un hébergeur et l’entreprise utilisatrice.

Il faut déterminer les rôles au regard de l’AI Act, au-delà des intitulés commerciaux. Pour les systèmes à haut risque, certaines modifications substantielles ou certains changements de destination peuvent notamment conduire un acteur à assumer les obligations d’un fournisseur. (Source : AI Act Service Desk)

Dans votre relation avec un prestataire, posez des questions concrètes :

  • Qui documente le fonctionnement et les limites du système ?
  • Qui réalise les évaluations avant livraison ?
  • Qui suit les changements de modèle ?
  • Qui traite les incidents et les résultats anormaux ?
  • Quelles informations seront remises à votre entreprise ?

Une répartition écrite facilite le pilotage du projet. Elle permet également d’identifier les sujets qui nécessitent une analyse juridique complémentaire.

3. Examiner les données et les accès

Un assistant documentaire peut manipuler des contrats, des informations clients ou des données concernant les salariés.

L’AI Act ne remplace pas le RGPD : lorsqu’un système d’IA traite des données personnelles, les règles de protection des données restent applicables, pendant son développement comme pendant son déploiement. (Source : CNIL)

Avant de connecter votre application à un service d’IA, vérifiez notamment :

  • Les informations effectivement transmises.
  • Leur durée de conservation.
  • Les conditions de réutilisation par le fournisseur.
  • Les personnes et services qui peuvent y accéder.
  • Les modalités de suppression et les éventuels transferts internationaux.

Les droits d’accès méritent une attention particulière. Un assistant intégré à un ERP doit respecter les habilitations des utilisateurs. Une recherche en langage naturel ne devrait pas permettre de consulter des documents auxquels la personne n’a normalement pas accès. C’est l’un des points clés d’un chatbot IA sur vos données.

Ces contrôles font partie des choix de conception à traiter avant la mise en production.

4. Prévoir un contrôle humain qui fonctionne réellement

Ajouter un bouton « Valider » ne garantit pas, à lui seul, une vérification efficace.

Dans la pratique, l’utilisateur doit disposer des éléments nécessaires pour comprendre la proposition, repérer une erreur et la corriger.

Pour une extraction de facture, cela peut passer par l’affichage du document source à côté des données proposées. Pour une réponse documentaire, par un accès aux passages utilisés. Pour une action sensible, par une confirmation explicite avant son exécution.

Comme bonne pratique de conception, posez trois questions :

La personne peut-elle vérifier ? A-t-elle le temps de vérifier ? Peut-elle interrompre ou corriger l’action ?

Les réponses orientent l’interface, les autorisations et l’organisation du travail.

5. Tester les erreurs avant qu’elles deviennent des incidents

Une démonstration réussie couvre rarement toutes les situations rencontrées dans l’entreprise.

Prévoyez des essais avec des documents incomplets, des demandes ambiguës, des informations contradictoires et des utilisateurs disposant de droits différents.

Les résultats doivent aider à répondre à des questions opérationnelles : quand le système doit-il s’abstenir ? Quand doit-il demander une précision ? Quand faut-il transmettre le dossier à une personne ? Sur ce sujet, voir aussi comment éviter les hallucinations de l’IA en entreprise.

Pour l’IA générative, l’ANSSI recommande une démarche de sécurité couvrant les différentes phases du système, de sa conception jusqu’à son utilisation en production. (Source : ANSSI, MesServicesCyber)

Une mise à jour du modèle ou l’ajout d’une source documentaire mérite également une nouvelle vérification adaptée à l’importance du changement.

6. Informer et accompagner les utilisateurs

Selon le fonctionnement du système, des obligations de transparence peuvent s’appliquer. L’article 50 prévoit notamment des règles pour certaines interactions avec une IA et certains contenus générés ou manipulés artificiellement. Leur portée doit être examinée selon le cas d’usage. (Source : Commission européenne, Shaping Europe’s digital future)

L’accompagnement des équipes compte aussi. L’article 4 prévoit des mesures favorisant la maîtrise de l’IA, en tenant compte des connaissances des personnes et du contexte d’utilisation. (Source : AI Act Service Desk) Pour aller plus loin : former ses équipes à l’IA.

Concrètement, préparez des consignes adaptées au logiciel : données autorisées, limites connues, vérifications attendues et procédure de signalement d’une erreur.

Faire de ces questions une partie du cahier des charges

Pour préparer un projet IA, votre cahier des charges peut réunir six éléments :

  1. Une description précise de l’usage et de ses limites.
  2. Une analyse des rôles et des exigences applicables.
  3. Une cartographie des données et des accès.
  4. Les mécanismes de contrôle et de correction.
  5. Un protocole de tests et de suivi.
  6. Les informations et consignes destinées aux utilisateurs.

Cette préparation aide à évaluer la faisabilité, le budget et les conditions de mise en production.

Chez Euro Tech Conseil, nous accompagnons la conception et l’évolution de logiciels métiers intégrant l’intelligence artificielle. Le cadrage technique permet d’examiner les usages, les données, les intégrations et les validations nécessaires, en coordination avec vos interlocuteurs juridiques et votre DPO selon le projet.

Vous souhaitez intégrer l’IA à votre logiciel métier ?

Présentez-nous votre projet : nous examinons avec vous les usages, les données, les intégrations et les validations nécessaires pour identifier les premières étapes du cadrage, en lien avec votre DPO et vos conseils juridiques.

Recevez notre newsletter et ne manquez jamais nos conseils !