AI, Data & IT Leaders
Gouverner les risques liés à l’IA : le cas IBM
Ecouter cet article
Partager cet article
No items found.
No items found.
No items found.
En partenariat avec
Dans un contexte où l’IA prend une place centrale dans les entreprises, gouverner ses risques devient une nécessité. Lors de cette intervention, Thomas Dognin, AI Market Sales Leader - Data & AI France chez IBM, présente une approche innovante pour encadrer et gérer les risques inhérents à l’utilisation de l’IA, tout en garantissant sa conformité avec les nouvelles réglementations, telles que l’AI Act européen.
Les enjeux de gouvernance des modèles IA
La gouvernance de l’IA ne se limite pas à l'industrialisation des modèles, elle englobe aussi :
- La gestion des biais algorithmiques, pour éviter les discriminations systématiques.
- L’explicabilité des prédictions, essentielle pour renforcer la transparence et la confiance.
- La prévention des risques liés aux données personnelles, pour protéger les utilisateurs finaux.
- L’intégration des exigences réglementaires, comme l’IA de confiance ou les cadres juridiques européens et internationaux.
La solution d’IBM : watsonx.governance
IBM propose une approche structurée en trois axes :
- Documentation automatisée des modèles IA : Chaque étape du cycle de vie est tracée, incluant les paramètres, instructions, et métadonnées, pour garantir la transparence.
- Évaluation et supervision des modèles : Analyse des performances et détection des risques en temps réel grâce à des alertes automatisées.
- Gestion des risques organisationnels : Intégration des exigences réglementaires et mise en place de workflows pour assurer une conformité proactive.
Recommandations du HUB Institute
- Instaurer une culture de gouvernance IA : Impliquez toutes les parties prenantes, du data scientist aux responsables métiers, pour assurer une gestion collaborative.
- Documenter systématiquement les modèles : Mettez en place des outils permettant de capturer toutes les étapes du cycle de vie des modèles.
- Évaluer régulièrement les risques : Automatisez les contrôles périodiques pour garantir la performance et la conformité des modèles.
- Adapter les modèles aux réglementations locales : Prenez en compte les cadres législatifs propres à chaque marché (Europe, Amérique du Nord, Chine).
- Anticiper les évolutions réglementaires : Initiez la gouvernance dès aujourd’hui pour éviter les ruptures lors de futures exigences légales.
Timecodes de la vidéo
- 00:14 Introduction et enjeux de l’IA : Importance de la gouvernance dans le cycle de vie de l’IA.
- 01:21 Identifier les risques des modèles IA : Gestion des biais, explicabilité, et données personnelles.
- 03:10 L’AI Act européen et son impact : Présentation des niveaux de risque (inacceptable, élevé, faible).
- 05:32 Automatisation et conformité : Documentation et workflows pour intégrer les exigences.
- 09:28 Suivi en production et alerte sur les risques : Détection des anomalies et actions correctives.
- 11:11 Importance de commencer dès maintenant : Anticiper les exigences réglementaires futures.
.svg)
