Intelligence artificielle : L’ACPR identifie les bonnes pratiques

Dans une récente note de réflexion sur l’intelligence artificielle, l’ACPR s’est penché sur « l’état de l’art des techniques d’IA et la réglementation du secteur financier ». L’Autorité en tire notamment des bonnes pratiques et ouvre le document à consultation publique jusqu’en septembre.

Dans le cadre de ses nombreux travaux exploratoires sur l’intelligence artificielle lancés en 2018, l’Autorité de contrôle prudentiel et de résolution livre un nouveau document de réflexion sur la place de l’IA dans le secteur financier. L’ACPR tente notamment d’y faire le lien entre outils et algorithme d’intelligence artificielle et réglementation en s’appuyant sur des travaux exploratoires avec quelques acteurs de la banque et de l’assurance « afin d’éclairer les enjeux d’exploitabilité et de gouvernance de l’IA », peut-on lire sur la note.

Via des entretiens et des ateliers techniques, le gendarme s’est penché sur trois domaines : la lutte contre le blanchiment et le financement du terrorisme (LCB-FT), les modèles internes et en particulier le scoring de crédit, et la protection de la clientèle.

« Deux axes d’étude en sont ressortis : ceux de l’évaluation et de la gouvernance des algorithmes d’IA », poursuit l’ACPR. Ainsi, concernant l’évaluation, l’analyse de l’autorité conduit à identifier, dans l’évaluation des algorithmes IA quatre critères interdépendants : le traitement adéquat des données, la performance des algorithmes ML (Machine Learning), la stabilité de ce dernier et l’explicabilité (transparence et interprétabilité de l’algorithme).

Au sujet de la gouvernance cette fois-ci, « l’inclusion d’IA dans les processus métiers en finance influe nécessairement sur leur gouvernance. Aussi nous recommandons de porter l’attention, dès la phase de conception des algorithmes, sur les aspects suivants » : Intégration dans les processus métiers / Intégration dans les processus métiers / Sécurité et externalisation / Processus de validation initiale / Processus de validation continue / Audit.

Consultation publique

Le document de réflexion du gendarme est soumis à consultation publique jusqu’au 4 septembre. « Le but est de recueillir l’avis des acteurs financiers et autres parties concernées par le sujet (chercheurs, prestataires, autorités de contrôle, etc.) sur les pistes de recommandations esquissées mais aussi, plus largement, tout commentaire utile, y compris sur l’adaptation des bonnes pratiques du superviseur », indique l’ACPR.

« Nous attendons beaucoup de cette consultation. Innovation, maîtrise des technologies et des risques, sécurité : les enjeux de l’IA dans le secteur financier sont immenses. En proposant des principes clairs de développement de l’IA, l’ACPR apporte sa contribution et espère faire progresser le débat sur les questions encore en suspens », conclut pour sa part François Villeroy de Galhau, gouverneur de la Banque de France et Président de l’ACPR.