Les 5 questions essentielles à poser aux fournisseurs d’IA

Dans un contexte d’utilisation de l’IA qui évolue rapidement, les dirigeants d’entreprise doivent faire preuve de diligence raisonnable lorsqu’ils s’associent à des partenaires offrant des solutions optimisées par l’IA. Pour protéger la confidentialité des données, la conformité réglementaire et l’intégrité organisationnelle, il est essentiel de poser les bonnes questions. Voici cinq questions essentielles, chacune abordant un domaine de préoccupation fondamental, qui sont adaptées pour offrir de la clarté et avoir une incidence dans l’environnement d’affaires d’aujourd’hui. 

1. Utilisez-vous l’IA, et où est-elle appliquée dans votre logiciel? 

Il est fondamental de comprendre comment et où l’IA est intégrée dans une plateforme. Qu’il s’agisse d’une IA non générative prédisant le roulement de personnel ou d’une IA générative résumant les évaluations du rendement, demandez aux fournisseurs de préciser quelles sont les fonctions d’IA utilisées, quel est le type d’assistance qu’elle fournit et sur quels modèles elle s’appuie, que ce soit OpenAI, Anthropic ou un autre fournisseur. Cette visibilité est cruciale pour évaluer comment vos données pourraient être traitées ou exposées. 

2. Les fonctions d’IA peuvent-elles être activées ou désactivées selon le rôle, la géographie ou l’utilisateur? 

La législation liée à l’IA varie grandement selon les régions, parfois même d’une ville à l’autre, alors les organisations doivent garder le contrôle sur la façon dont l’IA est utilisée et où elle est utilisée. Demandez aux fournisseurs si vous pouvez désactiver les fonctions d’IA pour des utilisateurs ou des territoires de compétence en particuliers, surtout que de nombreuses plateformes activent automatiquement de nouvelles capacités en matière d’IA sans consentement. La souplesse est essentielle pour rester conforme à la réglementation et maintenir la confiance des utilisateurs. 

3. Le modèle d’IA est-il privé et exclusif à notre entreprise ou est-il partagé et général? 

Lorsque les fournisseurs utilisent l’IA pour effectuer des prédictions ou générer un sommaire de vos données, il est important de comprendre où ces données sont traitées. Est-ce qu’elles alimentent un modèle à usage général comme ChatGPT, ou un modèle privé est-il utilisé exclusivement pour votre organisation? Cela a des implications pour la propriété des données, leur confidentialité et pour savoir si vos renseignements exclusifs sont réutilisés pour entraîner des modèles de tiers. 

4. Les utilisateurs sont-ils informés lorsque l’IA est impliquée dans leurs activités? 

La transparence n’est pas seulement importante sur le plan de l’éthique, mais il s’agit également d’une exigence réglementaire au sein de nombreux territoires de compétence. Les utilisateurs devraient être informés lorsque l’IA est active, de manière similaire aux messages-guides de consentement dans des plateformes comme Microsoft Teams. Demandez si votre fournisseur offre des notifications ou des options de consentement visibles, particulièrement lorsque l’IA pourrait enregistrer, synthétiser ou interpréter le comportement des utilisateurs. Les obligations juridiques peuvent varier selon le pays ou l’état. 

5. Où sont hébergés les modèles et où les données sont-elles traitées? 

Demandez aux fournisseurs de divulguer clairement où vos données sont hébergées, traitées et stockées. Cette information a une incidence à la fois sur la confiance et la conformité, plus particulièrement dans les secteurs réglementés ou lorsque les activités sont exercées à l’échelle mondiale. Les lois sur le lieu de résidence des données peuvent imposer des pénalités sévères en cas d’infractions, alors exigez une clarté contractuelle de la part de votre fournisseur. Renseignez-vous également si des tiers traitent ou stockent vos données dans le cadre des interactions avec les modèles d’IA. 

Profitez de votre aventure avec l’IA, mais gardez à l’esprit qu’il s’agit de vos précieuses données de l’entreprise, et non de celles du fournisseur. Dans le cas des données sur les employés, elles représentent également les données privées d’une personne travaillant au sein de votre organisation. Ne présumez pas que tout le monde traite ces données avec le même niveau de respect que vous utilisez. 

Vous souhaitez en savoir plus sur les bonnes questions à poser aux fournisseurs d’IA? Consultez notre dernier guide, Les 5 impératifs de l’adoption de l’AI dans le domaine de la gestion du capital humain.