Les progrès réalisés dans l’apprentissage automatique, le traitement du langage naturel et la capacité informatique ont ouvert la voie à l’ère de l’IA. Maintenant que la technologie évolue rapidement, elle change la façon dont nous travaillons — avec le potentiel de révolutionner des industries entières.

Un rapport de recherche Gartner, le PDG de Tech Insight : Les taux d’adoption pour l’IA et GenAI dans tous les marchés verticaux, partage les faits saillants du sondage auprès des directeurs des technologies de l’information et des cadres supérieurs de Gartner 2024, et déclare : “Soixante-treize pour cent des répondants au même sondage ont indiqué qu’ils augmenteront le financement de l’IA en 2024. (Vingt-six pour cent ont déclaré que le financement resterait aux niveaux de 2023; seulement 1 % réduira les dépenses.)”*

Il s’agit des niveaux de financement et des taux d’adoption les plus élevés que nous avons observés jusqu’à présent pour l’IA.

En même temps, GenAI  a connu une montée en popularité grâce à l’avènement de modèles de grande langue (LLM) conviviaux pour les consommateurs comme ChatGPT, ce qui ajoute à la vague d’innovation en matière d’IA. Le rapport GenAI mondial ’de NTT DATA  révèle que 99 % des organisations prévoient maintenant d’autres investissements dans GenAI.

Comprendre les risques liés à l’IA

Alors que de plus en plus d’organisations adoptent les solutions d’IA et ’de GenAI, il devient évident que nous ne faisons que gratter la surface de l’immense valeur que ces technologies peuvent offrir. Cependant, l’adoption rapide de la technologie a entraîné une augmentation significative des vulnérabilités de sécurité et des menaces basées sur l’IA.

Les cybercriminels exploitent des contrôles de sécurité faibles pour manipuler les modèles d’IA et compromettre l’intégrité et la fiabilité des données des solutions compatibles avec l’IA.

Selon un communiqué de presse de Gartner, les attaques malveillantes renforcées par l’intelligence “artificielle (IA) sont le principal risque émergent pour les entreprises au troisième trimestre de 2024, selon Gartner, Inc. Il ’s’agit du troisième trimestre consécutif, ces attaques étant le principal risque émergent.”**

Comprendre ces risques de sécurité est essentiel pour libérer le véritable potentiel de l’IA. Nous avons besoin des bonnes politiques et des bons contrôles pour gérer de manière proactive les risques associés aux modèles d’IA, protéger les volumes énormes de données générées et sécuriser l’infrastructure de soutien.

Soyez conscient de la façon dont les risques d’IA se manifestent

Les cybercriminels sont toujours à la recherche de vulnérabilités qui leur permettraient de compromettre les données et les algorithmes des systèmes d’IA. Les risques peuvent se manifester par un empoisonnement des données (introduisant des données biaisées ou corrompues) ou des attaques contradictoires comme une injection rapide ou des débridages qui manipulent des algorithmes.

Les récents incidents de débridage impliquant le démarrage chinois de l’IA DeepSeek et l’assistant de codage de l’IA GitHub Copilot, entre autres, servent de rappels macabres de la rapidité avec laquelle les choses peuvent mal tourner.

Les systèmes d’IA et les applications alimentées par l’IA sont aussi vulnérables aux cyberattaques que toute autre technologie. Il s’agit d’un problème croissant à mesure que ces systèmes deviennent plus avancés et autonomes. Les violations pourraient avoir des conséquences catastrophiques tant pour les organisations que pour la société en général.

Nous devons également faire attention à utiliser des agents d’IA sans restriction ou non approuvés, comme des assistants d’IA qui peuvent se joindre aux appels de l’entreprise ou des applications d’amélioration de la photo haute résolution. Ces agents ajoutent de la valeur en rendant les processus d’affaires comme le recrutement et l’approvisionnement plus efficaces, mais seulement s’ils adhèrent aux contrôles de sécurité et aux cadres de gouvernance des données appropriés. Il ’est donc essentiel d’avoir une politique organisationnelle bien définie en place concernant l’utilisation de l’IA, la gouvernance des données et la confidentialité.

Gérez les risques liés à l’IA de manière proactive dans l’ensemble de votre organisation

La sécurisation des systèmes d’IA dans votre organisation nécessite une approche proactive qui couvre les mesures techniques et organisationnelles.

Voici ’comment vous pouvez construire une base solide :

• Ayez une analyse de rentabilité claire sur la façon dont l’IA crée de la valeur dans votre organisation et comprenez les éléments essentiels dont vous ’aurez besoin pour mettre en œuvre l’IA, que ce — soit pour des applications plus larges de l’IA ou pour GenAI dépendant du contexte.
• Créer une structure solide pour la gouvernance de la sécurité de l’IA. Effectuer des évaluations continues des risques pour identifier les vulnérabilités qui peuvent affecter les applications d’IA et les LLM, ou les composants de l’infrastructure technologique sous-jacente.
• Envisager des cadres et des outils tels que le cadre de gestion des risques d’IA du National Institute of Standards and Technology (NIST) des États-Unis et des outils spécifiques de modélisation des menaces tels que le MITRE Adversarial Threat Landscape for Artificial-Intelligence Systems (MITRE ATLAS), une base de connaissances accessible à l’échelle mondiale de tactiques et de techniques contradictoires contre les systèmes compatibles avec l’al.
• Soyez conscient des réglementations qui s’appliquent à votre organisation et à votre chaîne de valeur, et suivez les changements (rapides) des réglementations locales, régionales et mondiales. Affinez votre approche en matière de gouvernance, de risque et de conformité en travaillant avec des experts qui ont une compréhension approfondie de ces cadres.

Sept aspects cruciaux de la sécurité de l’IA

Prendre la responsabilité de la sécurité devrait être la responsabilité collective des dirigeants d’entreprise, des développeurs et des organismes de réglementation industriels et sectoriels. Examinons ’certains des domaines les plus importants qui méritent votre attention à cet égard.

(1) Sécurité dès la conception

La sécurité, la confidentialité et la confiance sont des éléments essentiels lorsque vous concevez de ’nouveau des systèmes d’IA. Lorsque vous saisissez à ’nouveau des données pour les intégrer à la conception, posez des questions clés à vos chefs d’entreprise, comme la raison pour laquelle ils ont besoin de données spécifiques, le moment et la façon dont ils les utiliseront, et s’il existe des solutions de rechange qui peuvent être utilisées.

(2) Confidentialité et protection des données

Les données utilisées par vos systèmes d’IA  doivent être exactes, sécurisées et inviolables. Les contrôles de sécurité doivent se concentrer à la fois sur les modèles d’IA eux-mêmes et sur les données utilisées pour les former, avec des mesures telles que le contrôle d’accès, le chiffrement et l’anonymisation des données en place pour protéger les renseignements sensibles.

(3) Validation et test du modèle

Investir dans des processus de test approfondis avant le déploiement pour corriger les vulnérabilités à un stade précoce et continuer à tester régulièrement. Pour rendre vos modèles d’IA plus résistants aux attaques, utilisez des techniques comme la — formation d’un modèle sur des données normales et bénignes et sur des données qui ont été intentionnellement modifiées pour imiter les tactiques des attaquants.

(4) Surveillance continue et détection des menaces

La mise en œuvre d’outils et de techniques de surveillance avancés vous permet d’identifier rapidement les activités suspectes ou les anomalies dans vos systèmes d’IA. En détectant les menaces et en y réagissant en temps réel, vous pouvez prévenir les violations potentielles avant qu’elles ne causent des dommages majeurs.

5. Planification des interventions en cas d’incident

Élaborer et tenir à jour un plan d’intervention en cas d’incident spécifiquement pour les incidents liés à l’IA. Le plan doit inclure des procédures pour détecter, contenir et récupérer des attaques spécifiques à l’IA.

(6) Collaboration et éducation

Encouragez vos équipes de sécurité et vos développeurs d’IA à intégrer la sécurité dans le cycle de vie du développement de l’IA. Éduquez vos employés sur les risques associés à l’IA et l’importance de respecter les meilleures pratiques en matière de cybersécurité. Lorsque vous favorisez une culture de sensibilisation à la sécurité, vos employés deviennent votre première ligne de défense.

(7) Gestion des risques et conformité

La gouvernance de l’IA est un domaine en évolution, et certains gouvernements et organismes de réglementation ont fait plus de progrès que d’autres. À Singapour, par exemple, la gouvernance concernant l’utilisation sûre et sécurisée de l’IA est en place depuis un certain temps.

Étudiez et suivez minutieusement les cadres tels que le cadre NIST mentionné précédemment, la norme ISO/IEC 42001 :2023 qui fournit des directives pour la gestion des systèmes d’IA dans les organisations, et le projet Open Web Application Security est l’’un des 10 meilleurs pour les applications de modèle de grande langue. Lorsque vous ’comparez les cadres, tenez compte des cas ’d’utilisation de l’IA spécifiques à votre organisation et de vos objectifs commerciaux, ainsi que des règlements de l’industrie.

Discutons ’de votre parcours en matière d’IA

Lorsque vous adoptez l’IA dans votre organisation, vous devez adapter votre stratégie de sécurité pour répondre aux risques uniques associés à cette technologie. Les contrôles de sécurité traditionnels ne sont plus suffisants pour protéger les systèmes d’IA contre les attaques sophistiquées par IA.

Vous pouvez également en apprendre davantage sur la façon dont l’IA transforme les centres d’opérations de sécurité (SOC) dans mon récent blogue sur l’IA dans les SOC et l’avenir de la cybersécurité rentable.

Communiquez avec nous pour discuter de la façon dont vous pouvez préparer votre organisation à gérer efficacement vos risques d’IA, peu importe où vous en êtes dans votre parcours d’IA.

QUOI FAIRE ENSUITE

En savoir plus sur les solutions ’de cybersécurité de NTT DATA  pour voir comment nous gardons les données et les applications précieuses ’de votre organisation en sécurité.

* Gartner Research, PDG de Tech Insight : Taux d’adoption pour l’IA et la GenAI dans tous les marchés verticaux, Whit Andrews, 11 mars 2024

** Gartner, Gartner Survey montre que les attaques malveillantes améliorées par l’IA sont le principal risque émergent pour les entreprises pour le troisième trimestre consécutif, 1er novembre 2024