L’intelligence artificielle, risque de vulnérabilité pour les entreprises
Cela n’arrive pas qu’aux autres : en 2024, 80 % des entreprises françaises ont connu un incident de sécurité lié à l’intelligence artificielle.
Usages imprudents de la part de collaborateurs bien intentionnés, usurpations d’identité… Les risques associés à l’utilisation de l’IA sont nombreux. Dans un récent flash à destination des entreprises, la DGSI en présente trois, inspirés de cas réels :
1️⃣ La traduction, par des salariés, de documents confidentiels via une IA générative grand public. À la clé, le risque d’une utilisation de ces données par l’entreprise étrangère propriétaire de l’IA, mais aussi celui de leur stockage sur des serveurs situés hors de France, où elles peuvent être soumises à des lois étrangères à portée extraterritoriale.
2️⃣ La réalisation de due diligence par IA. Ici, le risque consiste, pour l’entreprise, à fonder ses décisions stratégiques sur les réponses fournies par l’IA. Celles-ci sont le fruit d’une logique probabiliste, ne garantissant ni leur pertinence ni leur exactitude – de fait, les IA sont régulièrement sujettes à des « hallucinations », qui leur font produire des réponses erronées ou trompeuses.
3️⃣ Les escroqueries de type deepfake réalisées par IA ; dans le cas cité par la DGSI, un responsable de site industriel a reçu un appel vidéo d’une personne dont l’apparence et la voix étaient celles du dirigeant de son groupe – et qui lui demandait d’effectuer un transfert de fonds.
Face à ces risques, la DGSI préconise de privilégier les IA génératives françaises, d’en encadrer l’usage (notamment en définissant le niveau de sensibilité des données qui peuvent être confiées à l’outil) et de former régulièrement les équipes à leur utilisation.
Derrière cette variété de situations, un enseignement phare : l’intelligence artificielle offre à la guerre économique des moyens offensifs inédits et toujours plus puissants, car toujours plus insidieux et multiformes.
Face à cette menace, le risque zéro relève de l’utopie. Pour se protéger, les acteurs économiques doivent faire preuve d’agilité intellectuelle, en s’imprégnant d’une culture générale de la guerre économique et en s’attachant à comprendre les logiques de prédation et à anticiper les menaces futures. C’est cette agilité dissuasive qui permettra aux entreprises de continuer de planifier leur développement et leur croissance dans un cadre favorable.
Démultiplié par le potentiel infini de l’IA, le pouvoir de nuisance des acteurs mal intentionnés ne cessera de croître, repoussant toujours plus les limites de la compétition économique. Face à ce constat, une vigilance de tous les instants est de mise, guidée par un esprit critique affuté et une compréhension solide des mécanismes de guerre économique.