Conseils d’ordre éthique, juridique et stratégique pour l'IA dans votre entreprise

Make AI Work

Vous et vos collaborateurs avez déjà certainement testé un outil d'IA. Vous faites même peut-être appel ChatGPT ou Copilot quotidiennement. Ou vous développez vous-même des logiciels IA. Mais avez-vous réfléchi au partage de données sensibles avec des outils d'IA ? Connaissez-vous l'impact de l’AI Act européen sur votre entreprise ? Jelle Hoedemaekers, Expert Data Economy chez Agoria et à AI:Unboxed, l'événement annuel des membres de Sirris et d'Agoria, partage ici quelques idées et conseils.

Jelle Hoedemaekers, Expert Data Economy chez Agoria, constate que les entreprises sont très sensibilisées à l'IA. « Un an et demi après l'introduction de ChatGPT, de nombreuses entreprises l'utilisent. Elles se posent dès lors de nombreuses questions à ce sujet, notamment sur les aspects juridiques et éthiques de l'IA. Le 29 mai, lors de la session AI:Unboxed, nous vous apporterons des réponses et vous partagerons les meilleures pratiques d’entreprises ayant déjà trouvé leur voie. »

Dans cet article, nous vous partageons déjà quelques idées et conseils sur trois sujets clés liés à l'IA : 

• Pourquoi créer une politique interne en matière d'IA 
• En quoi les réflexions éthiques peuvent avoir des conséquences positives
• Que faire dès à présent compte tenu de l’AI Act européen 
   

La politique en matière d'IA définit l'utilisation des outils d'IA

« Nous constatons que tout le monde commence à utiliser de tels outils. Souvent gratuitement. Mais... rien n'est gratuit », souligne Jelle Hoedemaekers. « Les outils peuvent être fantastiques. Mais ils ont un certain coût et comportent des risques pour la confidentialité et la sécurité des données. Ils utilisent par exemple les données de votre entreprise pour s'améliorer. Le souhaitez-vous ? »

Cette utilisation des données peut ne poser aucun problème pour un système de gestion de la qualité. Mais lorsqu'il s'agit de données personnelles ou de secrets commerciaux, c'est une autre affaire.

Le conseil d’Agoria ? Dotez-vous d’une politique en matière d'IA. Une telle politique sert de cadre de référence pour l'utilisation de l'IA au sein de l'entreprise, notamment en ce qui concerne les outils autorisés, ce qui peut et ne peut pas être saisi et la manière de traiter les résultats. Faites en sorte que cette politique soit claire, par exemple en utilisant le modèle gratuit de politique IA d'Agoria. Informez et formez vos collaborateurs sur la base de cette politique. Vérifiez si les conditions générales du logiciel IA sont compatibles avec cette politique. C’est ainsi que vous maîtriserez les risques.

Réflexion éthique contre les préjugés

La discrimination et les préjugés sont des défis majeurs pour les systèmes actuels. Mais vous pouvez également voir les choses différemment, selon Hoedemaekers : « Le simple fait d'utiliser des systèmes d'IA met en évidence les discriminations et les préjugés présents dans les données et les entreprises. Lorsque les logiciels de recrutement privilégient systématiquement les hommes autochtones, cela indique un déséquilibre historique entre les données et les activités. » 

Les systèmes eux-mêmes ne font pas de discrimination. Les données sur la base desquelles ils se développent le font par contre. Mais à mesure que cette discrimination fait surface, il devient possible d'y remédier. « Vous pouvez demander au logiciel de suggérer une répartition 50/50 des hommes et des femmes ou lui dire que la nationalité ou le sexe ne doivent pas être pris en compte. »

Quiconque réfléchit à cet aspect est déjà sur la bonne voie concernant les aspects éthiques des systèmes d'IA. Ceux qui font preuve d'ouverture dans ce domaine et permettent qu’il en soit discuté font un grand pas en avant, ce qui s’avère absolument indispensable.

Jelle Hoedemaekers :  « La mise en œuvre de systèmes d'IA éthiques est souvent considérée comme un obstacle, mais elle présente en réalité de nombreux avantages. Les entreprises qui intègrent l'éthique dans leurs projets d'IA dès le départ constatent que cela réduit le risque d'échec. En outre, cela favorise l'innovation. En effet, les considérations éthiques les obligent à réfléchir de manière plus approfondie aux applications de l'IA et à leur impact sur les personnes. Cela permet d’obtenir des solutions plus réfléchies, plus inclusives et, en fin de compte, plus fructueuses. »

Le conseil d’Agoria ? Mettez un cadre éthique en place. Il n'est pas nécessaire de partir de zéro. « Malheureusement, il y a une prolifération de cadres éthiques et il n'existe pas de solution unique. La solution qui convient à votre entreprise dépend de sa taille, de son activité, de son secteur... La mise en œuvre sera également différente dans une entreprise de deux ou de deux cents personnes. »

Personne n'échappe à l'AI Act européen

L'Union européenne est sur le point d'introduire une nouvelle législation s’appliquant spécifiquement à l'IA. C'est un moment important pour toutes les entreprises qui mettent en œuvre ou utilisent l'IA. Les développeurs ET les utilisateurs se voient confier des responsabilités supplémentaires. « Les entreprises se demandent ce qu'elles doivent faire pour rendre leurs produits conformes et quelles normes intégrer », explique Jelle Hoedemaekers. « Ce qui est déjà certain, c'est que cette législation va engendrer des processus de conformité plus lourds. Et cela n'est pas évident, surtout pour les petites entreprises, les start-ups et les scale-ups. »

Le conseil d’Agoria ? Analysez dès à présent ce que la législation européenne sur l'IA signifie pour votre entreprise. Vous avez encore deux ans pour mettre vos produits et leur utilisation en conformité. Mais n'attendez pas cette échéance. Commencez à vous informer et à informer votre équipe juridique. Recherchez des entreprises qui peuvent témoigner de la manière dont elles relèvent ce défi. Trouvez des réponses dans les connaissances partagées en ligne et lors d'événements. »

Cet article a également été publié sur le site web d'Agoria.