Risques, cadre et responsabilités

Voici une situation qu'on rencontre régulièrement dans des entreprises françaises.

Un manager reçoit une demande urgente. Il doit rédiger une réponse à un appel d'offres pour le lendemain. Il est 18 h. Il copie-colle l'intégralité du cahier des charges dans un assistant, avec les noms des clients, les volumes commandés, les prix actuels.

Il obtient une réponse excellente. Proposition envoyée. Appel d'offres gagné.

Sauf que ce soir-là, il a transmis des données commerciales confidentielles à un serveur externe. Sans le savoir. Sans en parler à personne. Sans mesurer les conséquences.

Ce n'est pas un cas isolé. C'est le type de situation qu'on observe régulièrement dans les organisations qui n'ont pas encore posé les règles de base sur l'usage de l'IA.

Ce bloc va vous donner trois grilles de lecture pour reconnaître ces situations et poser les bonnes règles. Pas pour vous décourager d'utiliser l'IA, pour vous permettre de l'utiliser avec confiance.

Le premier risque qu'on aborde, et le plus invisible, c'est le risque d'exfiltration.

Exfiltration, ça veut dire : des informations confidentielles de votre entreprise qui quittent votre périmètre de sécurité pour atterrir dans un système externe.

Avec l'IA, ça se passe sans bruit. Vous n'avez pas l'impression d'envoyer un fichier à quelqu'un. Vous posez juste une question. Mais ce que vous collez dans la fenêtre de chat, vous le transmettez à un serveur.

Quatre catégories de données à risque.

Première catégorie : les données clients. Noms, coordonnées, historiques d'achat, contrats, prix négociés. Tout ce qui identifie un client ou décrit votre relation commerciale avec lui.

Deuxième catégorie : les données RH. Salaires, évaluations, situations personnelles, projets de réorganisation. Particulièrement protégées par le RGPD, toute fuite peut engager la responsabilité de l'entreprise.

Troisième catégorie : les données stratégiques. Plans de développement, analyses concurrentielles, projets de rachat, données financières non publiées.

Quatrième catégorie : le code propriétaire. Si vous développez des outils internes, le code source est un actif stratégique.

La règle des trois questions avant de coller quoi que ce soit :

Première question : cette information peut-elle être rendue publique sans conséquence pour l'entreprise ?

Deuxième question : concerne-t-elle des personnes identifiables ?

Troisième question : représente-t-elle un avantage concurrentiel ou une information stratégique ?

Si vous répondez non à la première, ou oui à l'une des deux suivantes, vous n'utilisez pas un assistant public pour cette tâche. Vous anonymisez d'abord, ou vous attendez d'être sur un outil sécurisé.

Trois niveaux de protection selon l'outil. Une idée reçue répandue : tous les outils utiliseraient les données pour entraîner les modèles. Ce n'est pas aussi simple.

Niveau public gratuit. Sur ces outils, vos données peuvent effectivement être utilisées pour améliorer les modèles. Niveau de risque le plus élevé pour des données professionnelles.

Niveau Pro ou Teams. L'entraînement sur les données utilisateurs est désactivé par défaut, ou une option dédiée existe dans les paramètres. Protection sensiblement meilleure, à condition d'avoir vérifié les paramètres de votre compte.

Niveau Enterprise. Les politiques de non-rétention sont garanties contractuellement. Vos données ne quittent pas l'environnement sécurisé configuré par votre organisation.

La règle de base : vérifiez le type de licence avant tout usage avec des données professionnelles. Si vous ne savez pas quelle instance vous utilisez et quelle est sa politique, posez la question à votre DSI ou à votre prestataire IT avant d'utiliser l'outil avec des données sensibles. Ce n'est pas une question technique. C'est une question de responsabilité.

Le deuxième risque qu'on aborde est double : le risque réputationnel, que vous avez probablement déjà envisagé, et le risque d'usurpation, souvent sous-estimé.

Quatre zones de risque réputationnel.

Comme vu au bloc 1, l'assistant peut halluciner. Voici les conséquences concrètes quand une erreur sort de votre bureau.

Les dates. L'assistant peut confondre des années, des délais légaux, des dates d'entrée en vigueur. Une date erronée dans un contrat ou une proposition commerciale peut créer un engagement involontaire.

Les chiffres. Statistiques, pourcentages, données financières. L'assistant peut générer des données plausibles mais fausses. Si vous les publiez dans un rapport ou une présentation stratégique, votre crédibilité est exposée.

Les citations et références légales. Vous en avez vu un exemple au bloc 1 avec la citation juridique inventée. Ça vaut aussi pour les normes techniques et les réglementations sectorielles.

Les engagements contractuels. Si vous utilisez l'assistant pour rédiger des emails clients ou des propositions, relisez chaque engagement. L'assistant peut formuler des garanties ou des conditions que vous n'offrez pas réellement.

Le risque d'usurpation, les deepfakes.

Le second volet monte en puissance depuis 2024. Les hypertrucages, ou *deepfakes*, permettent aujourd'hui de recréer la voix ou l'image d'une personne de façon convaincante. La CNIL alerte sur ce risque en croissance pour les entreprises.

Concrètement : un fraudeur peut générer un faux message vocal de votre PDG demandant un virement urgent. Une vidéo ou un enregistrement semblant provenir d'un dirigeant pour manipuler un employé, un client ou un partenaire. Une usurpation de votre marque dans une campagne externe.

Ce n'est plus de la science-fiction. C'est une technique disponible et utilisée.

Un mot personnel, maintenant que vous entendez ma voix.

Ce que vous entendez dans cette formation, ce n'est pas ma voix réelle. Et ce n'est pas non plus généré par un assistant IA, c'est une voix de synthèse classique.

Deux choses : l'IA n'est pas toujours utile. Et vous verrez et entendrez de plus en plus de contenus où la distinction avec le réel n'est plus évidente. L'entraînement à douter devient une compétence utile.

Deux réflexes de base : établir un protocole de vérification pour toute demande urgente inhabituelle hors des canaux normaux, même si elle semble provenir d'un dirigeant. Et sensibiliser vos équipes à ce risque avant qu'elles n'en soient victimes.

Le protocole de vérification en trois temps.

Pour le risque réputationnel classique :

Identifier les zones sensibles dans le texte généré, tout chiffre, toute date, toute référence normative, tout engagement.

Vérifier chaque zone dans un document de référence. Pas en redemandant à l'assistant, il peut confirmer une erreur avec la même assurance. Allez à la source : site officiel, texte de loi, document contractuel.

Relire humainement et systématiquement avant tout envoi externe. Jamais un livrable IA ne part chez un client, un partenaire ou une administration sans passer sous des yeux humains.

Le troisième risque qu'on aborde est le plus insidieux. C'est celui que les entreprises découvrent le plus tard, souvent après un incident coûteux.

L'industrialisation prématurée, c'est automatiser avec l'IA quelque chose qu'on n'a pas encore sécurisé.

Voici le scénario.

Une équipe commerciale utilise l'assistant pour rédiger des propositions clients. Ça fonctionne bien. Les commerciaux sont satisfaits. Un responsable décide d'automatiser : désormais, un script génère les propositions la nuit et les envoie aux clients le matin.

Sauf que personne n'avait remarqué que l'assistant confondait régulièrement deux offres tarifaires. À faible volume, l'erreur était corrigée par le commercial avant l'envoi. Automatisée, elle part chez deux cents clients.

C'est pour éviter ça que la formation s'appuie sur une progression en quatre niveaux.

La progression S.F.O.I., qu'on développe au bloc 4.

🟢 Structurer : vous organisez votre matière. Vous vérifiez que rien n'est perdu.

🟡 Fiabiliser : vous rendez chaque affirmation vérifiable. Vous contrôlez les sources, les chiffres, les engagements.

🔵 Optimiser : vous transformez le contenu validé en outil directement exploitable.

🟣 Industrialiser : vous intégrez l'outil dans un système automatisé, avec rôles définis, traçabilité, supervision, mécanismes d'arrêt.

La règle absolue : on ne passe pas directement de Structurer à Industrialiser. On ne saute pas les étapes.

Trois questions avant d'automatiser.

Avant d'automatiser quoi que ce soit avec l'IA, posez-vous ces trois questions :

Le contenu a-t-il été validé humainement pendant une durée suffisante ou sur assez d'exemples ?

Les erreurs ont-elles été identifiées et corrigées avant automatisation ?

Y a-t-il une supervision humaine dans le processus, pas seulement à la fin, mais en cours de route ?

Si vous répondez non à l'une de ces trois questions, vous n'êtes pas prêt à automatiser.

Un point de contexte réglementaire, l'AI Act.

Le règlement européen sur l'intelligence artificielle entre en application progressive depuis 2024. Son Article 4 impose aux organisations d'assurer un niveau suffisant de maîtrise de l'IA pour leur personnel, en particulier pour ceux qui utilisent ou déploient des systèmes d'IA.

Concrètement : former vos équipes à l'usage responsable de l'IA n'est plus seulement une bonne pratique. Pour de nombreuses organisations, c'est une obligation légale. Cette formation est précisément ce que l'Article 4 exige.

Votre usage est-il à haut risque ? L'AI Act distingue les usages selon leur niveau de risque. Trois questions d'auto-évaluation :

L'usage de l'IA a-t-il un impact direct sur des décisions concernant des personnes, recrutement, évaluation, accès à des services, crédit, assurance ?

L'usage concerne-t-il des domaines classés à haut risque par l'AI Act, santé, justice, ressources humaines, infrastructure critique, éducation ?

Des décisions partiellement ou totalement automatisées produisent-elles des effets juridiques ou significatifs sur des individus ?

Si vous répondez oui à l'une de ces questions, votre usage entre dans la catégorie « à haut risque ». Cela implique des obligations spécifiques : évaluation de conformité, documentation, supervision humaine formalisée. Consultez votre service juridique ou un expert avant de déployer à grande échelle.

Si vous répondez non aux trois, vous êtes probablement dans un usage standard. Cela ne dispense pas des règles de base de ce bloc, mais n'implique pas d'obligations réglementaires particulières.

Trois risques. Trois règles essentielles.

La règle de l'exfiltration.

Avant de coller dans un assistant, posez la question : cette information peut-elle être rendue publique sans conséquence ? Et vérifiez quel outil vous utilisez et sa politique de données. Public gratuit, Pro ou Teams, Enterprise, ce n'est pas la même chose.

La règle de la relecture.

Avant de publier ou d'envoyer un livrable IA, une paire d'yeux humains relit les zones à risque, dates, chiffres, références, engagements. Et pour les communications inhabituelles urgentes, vérifiez par un canal indépendant que la source est bien celle qu'elle prétend être.

La règle de l'industrialisation.

Avant d'automatiser, vérifiez que le contenu a été validé et que la supervision humaine est maintenue dans le processus.

Ces trois règles ne ralentissent pas votre usage de l'IA. Elles permettent de l'accélérer en toute confiance, et d'être en conformité avec les exigences croissantes de l'AI Act.

Pour une organisation non spécialisée IA, la grande majorité des entreprises françaises, l'AI Act, à ce stade, c'est de la bonne pratique et de la veille, pas encore une contrainte légale directe. Les obligations strictes s'appliquent d'abord aux concepteurs et déployeurs de systèmes à haut risque.

Pourquoi en parler ici ? Parce que si le sujet émerge dans votre organisation, et il va émerger, vous avez maintenant les éléments pour répondre sans être démuni. Ni alarmiste, ni naïf.

L'organisation qui pose ces règles tôt va plus vite que celle qui les découvre à travers une erreur coûteuse.

Un dernier point, court mais important.

Utiliser l'IA a un coût énergétique réel. Les data centers qui font tourner ces modèles consomment de l'électricité et de l'eau en quantité significative. Ce n'est pas une raison de ne pas utiliser l'IA. C'est une raison de l'utiliser à bon escient.

Un prompt inutile consomme autant qu'un prompt utile. Un usage réfléchi, ciblé sur des tâches où l'IA apporte vraiment de la valeur, est plus efficace pour vous, et plus frugal.

Ce n'est pas une injonction à la culpabilité. C'est une invitation à la conscience.

La frugalité dans l'usage de l'IA est une bonne pratique à part entière. Elle s'intègre dans une démarche responsable, et elle vous pousse à ne solliciter l'outil que quand il en vaut vraiment la peine.