La question de la certification des données et de la confiance dans les algorithmes se pose de plus en plus, notamment avec la montée en puissance de la blockchain… Qu’est-ce que l’audit de code ? Comment est-il possible de certifier des algorithmes ?
SOMMAIRE
Partager l’article
Diigo
- La montée de l'intelligence artificielle: un point d'inflexion critique pour la profession comptable 1 mai 2019Comments:Dans ce rapport, nous décrirons ce qu'est l'intelligence artificielle, ainsi que les sous-catégories d'apprentissage par la machine et d'apprentissage en profondeur. Nous placerons la technologie dans un contexte historique et montrerons pourquoi, compte tenu de sa durée de vie de plusieurs décennies, nous sommes à un point d'inflexion, du moins dans la profession. Plus important […]
- Canada - Guide CPA des bonnes Pratiques IA.pdf 30 mars 2019Tags: #CPA, #Canada, #IA, #Pratiques, #Data, #Avenir, #Comptabilitéby: lelab50diigo
- Canada - Introduction CPA et IA.pdf 30 mars 2019Comments:Cette publication explique les mots à la mode et certains termes en lien avec l’IA (apprentissage machine, apprentissage profond, robotisation des processus, vision par ordinateur, etc.), aborde l’évolution des données, de l’IA et de la puissance informatique, et aide à entamer une réflexion concernant l’IA et l’incidence qu’elle pourrait avoir sur le travail des CPA. […]
- Canada - Megadonnées et IA, l'avenir de la comptabilité et de la finance 30 mars 2019Comments:- la convergence des mégadonnées et de l’IA, et ce qu’elle signifie pour les CPA- les nouvelles technologies d’IA et la façon dont elles transformeront le rôle des CPA- les nouvelles compétences requises dans un monde axé sur l’IA et les données - lelab50diigoTags: #CPA, #Canada, #IA, #Pratiques, #Data, #Avenir, #Comptabilitéby: lelab50diigo
- Intelligence artificielle : État de l'art et perspectives pour la France | Direction Générale des Entreprises (DGE) 2 mars 2019Comments:Faire de la France un acteur majeur de l’intelligence artificielle (IA) est l’ambition de la stratégie nationale présentée en mars 2018 par le président de la République. La dynamique d’innovation et d’investissement est forte dans le domaine de l’IA qui est sujet à une concurrence mondiale intense. Acteurs privés et publics ont multiplié par dix […]
Qu’est-ce que l’audit de code ?
L’audit de code ne se pratique presque jamais. Il s’agit de l’analyse, instruction par instruction, du code source d’un ou plusieurs programmes. Mais les programmes comportent rapidement des milliers de lignes, avec des instructions faisant appel à des routines externes, standards ou spécifiques, développées par plusieurs personnes au sein de plusieurs équipes utilisant de multiples technologies.
Pour qu’un code soit lisible et compréhensible, il faut qu’il soit documenté. Mais ce que l’auditeur recherche n’est justement peut-être pas documenté ou mal documenté.
En pratique, les différentes méthodes pour « auditer » un algorithme sont des jeux d’essai, des simulations de traitement par un autre algorithme et des analyses de données par rapport à des attendus, qui peuvent être appliquées simultanément.
En synthèse, un code est très difficile à déchiffrer et la logique des algorithmes très compliquée à reconstituer à partir du code source. En matière d’intelligence artificielle, la problématique se complique particulièrement dans le cas de la machine apprenante.
Les limites de l’analyse de code ont donc conduit les auditeurs à privilégier l’audit de l’efficacité des dispositifs mis en œuvre pour concevoir, développer, tester, modifier et exploiter les algorithmes, leur permettant d’obtenir une assurance raisonnable quant à leur qualité. Mais ce type d’audit a aussi des limites dans le contexte de l’IA, notamment lorsque l’obtention d’une assurance raisonnable ne suffit pas.
Comment est-il possible de certifier des algorithmes ?
Certifier les algorithmes sans les données a-t-il du sens ? Prenons le cas de la voiture autonome. Les algorithmes traitent de nombreuses données que des capteurs transmettent, que les GPS fournissent, que l’expérience passée a permis d’accumuler… et ces données sont traitées par les algorithmes, qui les enrichissent également. La fiabilité du résultat de ce système algorithmique dépend en très grande partie de la qualité de ces données (qualité des sources, informations pertinentes non biaisées, souvent prétraitées et nettoyées par des « data scientists »…). Ne conviendrait-il donc pas d’auditer plutôt le système algorithmique que les algorithmes ?
C’est dans ce sens qu’un groupe de travail de l’Académie des sciences et techniques comptables et financières a créé le « commissariat aux algorithmes et aux données ».
D’autres travaux de recherche sont poursuivis notamment par l’ISACA – représentée en France par l’AFAI – par l’AICPA et CPA Canada. Mais les travaux de l’Académie ont pour vocation d’aller beaucoup plus loin dans l’explicitation de l’audit des algorithmes et des données. Un premier livre blanc bien plus abouti est en préparation qui, au-delà des problématiques de référentiel et d’approche d’audit, démontrera l’éventail des audits par des cas pratiques notamment sur la voiture autonome ou encore, sur Parcoursup…
Article paru le 10 mai dans le Monde du Chiffre
Auteur
Article rédigé par les membres de la Commission Prospective Internationale :
- Patrick STACHTCHENKO
- Serge YABLONSKY
