La diffusion d’outils d’intelligence artificielle utilisés sans autorisation de l’entreprise expose les organisations à des risques liés aux données personnelles, aux informations confidentielles, au savoir-faire et à la cybersécurité. Pour encadrer la Shadow AI, il est nécessaire de mettre en place des politiques claires, des évaluations préalables des outils, des programmes de formation du personnel et des solutions d’entreprise sécurisées.
L’intelligence artificielle générative s’est imposée dans les entreprises bien avant que celles-ci ne soient réellement prêtes à en assurer la gouvernance. Non pas à travers de grands projets de transformation numérique ou des mises en œuvre technologiques complexes, mais grâce à des initiatives individuelles de salariés et de managers qui, à la recherche d’une plus grande efficacité, ont commencé à utiliser des outils d’IA accessibles gratuitement (ou non) en ligne. C’est dans ce contexte qu’est apparu le phénomène de la Shadow AI, c’est-à-dire l’utilisation d’applications d’intelligence artificielle non autorisées ou non contrôlées par l’organisation. Un sujet qui, ces derniers mois, a pris une importance croissante dans le débat sur la gouvernance numérique des entreprises.
Ce phénomène rappelle de près celui du Shadow IT, c’est-à-dire l’utilisation de logiciels et de services informatiques en dehors des processus d’approbation de l’entreprise. Toutefois, la Shadow AI présente des caractéristiques particulières qui en amplifient les risques. Alors qu’autrefois le problème concernait principalement l’installation d’applications non autorisées, le risque touche aujourd’hui directement les données, les connaissances de l’entreprise et les processus décisionnels. Les employés utilisent des chatbots d’IA générative pour résumer des documents, rédiger des e-mails, analyser des feuilles Excel ou préparer des présentations, partageant parfois des informations confidentielles de l’entreprise avec des plateformes externes en dehors des procédures de contrôle habituelles.
Pour lire la version intégrale de l’article, cliquez sur Agenda Digitale.