CarrièreIl y a 3 jours
Inovatic
397 abonnés
Montigny-le-Bretonneux (78)
< 50 salariés
397 abonnés
Partager
AI Act : une future législation sur l’usage de l’IA et notamment le credit scoring automatisé
Ce début 2023, avec le succès de Chat GPT, l’intelligence artificielle est partout. Alors que son usage se popularise, les inquiétudes tant qu’aux possibilités dystopiques qu’ouvre cette technologie augmente aussi. Pour lutter contre les abus, l’Union Européenne travaille ainsi sur une nouvelle réglementation : l’AI Act.
1. Pourquoi une nouvelle réglementation sur l’intelligence artificielle ?
Aujourd’hui, c’est le RGPD au niveau européen et la loi Informatique et Libertés en France qui encadrent le traitement des données, y compris par l’intelligence artificielle. Dans Le Mag IT, Mathieu Weill, chef du service de l’économie numérique à la DGE, estime qu’une nouvelle réglementation est cependant utile : l’IA est un sujet politique et polémique. Cette technologie ne relève pas seulement de spécificités techniques ; il s’agit d’un réel sujet de société.
Par ailleurs, cette réglementation a un enjeu géopolitique : l’Union Européenne aspire à se positionner comme leader sur le plan de la législation de l’intelligence artificielle et de dynamiser son écosystème, ce qui peut nécessiter une législation plus souple que le RGPD pour permettre une utilisation plus importante des données. En plus d’autoriser et encourager la création de sandboxes pour tester les solutions, elle espère également peser sur leur élaboration même : une solution américaine implantée en Europe ne respectant pas cette législation pourrait se voir sanctionnée.
2. L’Artificial Intelligence Act
L’AI Act ou Artificial Intelligence Act, permettra ainsi de recouvrir les problèmes que posent spécifiquement des techniques avancées telles que le Deep Learning, qui consiste en l’apprentissage automatique des systèmes d’intelligence artificielle à l’aide de la logique et de connaissances préalablement enregistrées. Il établira également les règles de gouvernance en répartissant les responsabilités entre les différents acteurs impliqués.
Alors qu’actuellement, le RGPD s’adresse aux acteurs qui traitent et sous-traitent les données, l’AI Act prévoit d’inclure les fournisseurs de solution dans la boucle pour leur faire porter une partie des responsabilités. Cela implique que le poids portera moins sur les petits acteurs, et davantage sur les développeurs, qui peuvent se trouver hors du continent européen.
3. Trois catégories d’usages
L’IA Act classe les usages de l’intelligence artificielle en trois catégories, sous forme pyramidale :
- Au sommet se trouvent les usages interdits, tels que le crédit social à la chinoise, les systèmes destinés à manipuler les comportements ou les deepfakes.
- En intermédiaire, on retrouve les usages considérés comme étant à haut risque : par exemple les algorithmes de recrutement, d’évaluation et de solvabilité des personnes, de prise de position judiciaire, ou les systèmes utilisant la biométrie.
- Enfin, les applications de l’IA au quotidien qui n’entraînent pas de risque particulier, par exemple des applications liées à la durabilité environnementale ou l’accessibilité des personnes handicapées.
Dans le cas où une solution classée comme à haut-risque estimerait cette qualification injustifiée, elle pourrait avoir l’autorisation de demander une dérogation à l’autorité de surveillance de son pays ou à un organe de l’UE dédié.
4. Le credit scoring automatisé dans le viseur
Le credit scoring automatisé est classé dans la catégorie « haut risque ». La raison : il existe un risque que les données des personnes analysées par ce type de système soient utilisées de manière potentiellement discriminante, alors que la confidentialité reste également un enjeu important pour ce type d’analyse.
Pour ce type d’activité, il sera nécessaire de faire preuve de transparence tant qu’aux informations traitées et d’assurer un suivi régulier : l’humain doit rester là pour surveiller le système d’IA. Il s’agit aussi de s’assurer que l’intelligence artificielle est conforme aux exigences de la loi et ne recueille ou n’utilise pas plus de données que nécessaire.
Il est prévu que les sanctions en cas de non-respect de la législation soient strictes, sur le modèle du RGPD.
5. Quand cette réglementation entrera-t-elle en vigueur ?
En projet depuis avril 2021, une première version de cette réglementation européenne a déjà été validée par une position commune du Conseil Européen en décembre 2022. Avant que cette nouvelle législation ne puisse entrer en vigueur, il reste maintenant au Parlement à fixer sa propre position, et à trouver un accord, ce qui devrait arriver à l’horizon 2024-2025.
Vous utilisez le credit scoring dans le cadre de votre activité de banquier ou d’assureur ?
Inovatic, solution d’analyse des liasses fiscales et autres documents d’entreprise, peut vous aider dans la sélection des dossiers.
Prenez rendez-vous avec nous pour en savoir plus.
- Vues399
0 commentaire
C
Articles similaires
PortraitsIl y a 4 jours
InterviewIl y a 4 jours
BourseIl y a 4 jours
BourseIl y a 5 jours