Les biais qui naissent avec l’intelligence artificielle…

Il ne se passe plus un jour sans que paraissent de nouveaux articles, études, débats, tweets s’interrogeant sur l’intelligence artificielle et la blockchain. Leurs perspectives, leurs applications, leurs sens, leurs limites, alimentent de vives discussions, tantôt optimistes, tantôt alarmistes, mais toujours d’accord sur un constat : ces deux technologies en plein essor font déjà partie de notre environnement.

Les deux puissances économiques que sont les États-Unis et la Chine se sont engagées depuis plusieurs années déjà dans une compétition visant à asseoir leur leadership. En 2017, sous l’impulsion des géants du web (GAFAM, BATX et NATU¹), 15,2 milliards de dollars ont été investis à l’échelle mondiale dans des start-up spécialisées en intelligence artificielle. Et près de la moitié de ces investissements se sont orientés vers la Chine (48%), contre 38% vers les États-Unis selon un rapport de CB Insights sur les tendances à suivre en intelligence artificielle pour 2018.

La France a pris le train en marche. En mars dernier, suite à la remise du rapport sur l’intelligence artificielle par le député et mathématicien Cédric Villani, le président français, Emmanuel Macron, annonçait un investissement de plus de 1,5 milliard d’euros dans ce domaine à horizon quatre ans. Avec l’adoption grandissante de la technologie Blockchain (près de la moitié des entreprises interrogées par Deloitte disent vouloir investir dans cette technologie dans les 12 prochains mois) et des levées de fonds en crypto-monnaies de près de 1 milliard d’euros sur le seul mois de décembre 2017², le potentiel de croissance de blockchain n’est plus à démontrer. Plus qu’un simple effet de mode, ce nouvel engouement pour l’intelligence artificielle et la blockchain traduit bien une lame de fond. D’un côté, les sponsors de l’IA souhaitent la faire entrer dans notre quotidien, de l’autre le champ des possibles ouvert par la blockchain intéresse de plus en plus d’acteurs, à commencer par les financiers et les comptables. Si la définition de ces concepts pourrait donner lieu à un article dédié, nous nous contenterons, ici, de retenir que

« l’intelligence artificielle est un domaine de l’informatique, un ensemble de disciplines qui s’intéressent au raisonnement et à l’imitation des capacités humaines³ »

tandis que la blockchain est une technologie d’enregistrement et de stockage d’opérations de toutes natures très sécurisée de pair à pair de manière transparente, horodatée et irréversible, obéissant à un protocole informatique et une gouvernance bien définis.

Selon une étude réalisée en 2017 par le cabinet McKinsey⁴, 60% des emplois dans le monde pourraient, en théorie, connaître une part d’automatisation en lien avec le déploiement de l’intelligence artificielle et de la robotique. Ce constat s’applique également aux tâches dites de l’économie de la connaissance (« knowledge economy »), jusque-là préservées. Une autre étude réalisée par le cabinet CB Insights sur les tendances de l’intelligence artificielle pour 2018 pointe une accélération de la robotisation dans les métiers dits des « travailleurs en col blanc » : avocats, consultants, conseillers financiers, journalistes, traders et comptables, une des professions qui serait la plus touchée.

De l’autre côté de l’Atlantique, dans une étude conjointe, les organisations professionnelles comptables et d’audit, CPA Canada, AICPA et ISACA, décrivent des applications potentielles de la blockchain dans les services financiers, le secteur des biens de consommation, la santé, le secteur public, l’énergie et voire même au-delà

« puisque toutes les entreprises assurent un suivi de l’information et sont confrontées aux défis du rapprochement des données avec des contreparties tiers, la technologie de la blockchain peut être pertinente pour tous».

Identification numérique décentralisée via une blockchain, tenue de registres, logiciels de comptabilité intelligents, voitures autonomes, levée de fonds en crypto-monnaies, autant de cas d’usages qui interrogent le monde de demain. Si des Etats comme la Chine ou la Russie envisagent de créer leur propre crypto-monnaie, au Canada par exemple, la réflexion porte particulièrement sur leur comptabilisation et leur traitement fiscal. À ce titre, doit-on les considérer comme une monnaie, un instrument financier, une marchandise, un actif intangible, etc… ?

« L’Agence du revenu du Canada considère à l’heure actuelle les crypto-monnaies comme une marchandise. Toutefois, leur traitement dépend en grande partie de l’usage qui en est fait, soit la négociation ou le paiement pour l’achat de biens et services⁵».

De son côté la Biélorussie a déjà adopté une norme comptable sur les crypto-monnaies⁶.

Si l’intelligence artificielle comme outil d’aide à la prise de décision, n’est pas, en tant que tel, une nouveauté, ce sont ses progrès ainsi que ceux des technologies associées qui donnent une nouvelle dimension aux analyses et à l’assistance qu’elle offre. Ces avancées sont notables en matière de reconnaissance d’images (appliquée notamment à la gestion des stocks, l’imagerie médicale, la voiture autonome, etc.) et de traitement du langage naturel (moteurs de recherche, agents conversationnels ou chatbots, applications de traduction, etc.) grâce à l’hyperproduction de données ou Big Data. La recherche en intelligence artificielle a permis de développer une large palette d’algorithmes intervenant dans la résolution de problèmes de planification ou de décision (allocation de ressources, classification de données, prévisions, etc.). Ainsi est-on passé d’une IA classique avec les systèmes-experts, aux agents virtuels que sont les chatbots, puis à la détection de fraude ou l’optimisation de processus de gestion et performance commerciale par des méthodes statistiques et d’analyse de données. Les services comptables voient, par exemple, le processus d’achat se robotiser jusqu’à plus de 90% des transactions, de la commande au règlement.

La gestion des risques, démarche essentielle dans le processus de prise de décision de l’entreprise, repose de plus en plus sur des outils prédictifs d’intelligence artificielle. Plusieurs éditeurs (Mysis, Novasecur, Yseop, etc.) proposent des solutions basées sur l’intelligence artificielle, parfois à l’appui d’une blockchain (contrats intelligents ou smarts contracts permettant d’automatiser l’exécution d’un contrat dans une blockchain) afin de cartographier, analyser et surveiller les risques. Toutefois cette connexion entre gestion des risques et intelligence artificielle soulève d’autres interrogations. Quid des nouveaux risques inhérents à l’utilisation de l’intelligence artificielle ? Qu’il s’agisse de biais internes liés à la conception même des algorithmes ou que ces biais affectent les données utilisées pour l’apprentissage des machines.

Une autre difficulté liée à l’utilisation de l’intelligence artificielle pour la gestion des risques concerne la confiance que nous accordons à ces algorithmes. Une étude parue en 2014⁷ mettait en lumière l’existence de biais cognitifs qui nous portent naturellement à sanctionner davantage les erreurs faites par les algorithmes que celles commises par les humains, quand bien même le taux de succès de ces algorithmes serait bien supérieurs à celui des humains.

Parmi les enjeux évoqués autour de l’intelligence artificielle et la blockchain on trouve la question du traitement automatisé des données personnelles à l’heure de l’entrée en vigueur du Règlement Général sur la Protection des Données personnelles (RGPD) : transparence, risques de piratage, protection et accessibilité des données personnelles, localisation des données, proportionnalité des données, biais, discrimination et exclusion⁸, etc. Dès lors, surgit la question de la responsabilité juridique liée à l’utilisation de l’intelligence artificielle ou algorithmic accountability. Cette préoccupation est partagée par de nombreux régulateurs qu’il s’agisse d’algorithmes émanant d’acteurs privé (réseaux sociaux) ou publics (cf. Parcoursup en France). La recherche de transparence semble être le point de départ retenu par de nombreux Etats : en France, l’INRIA, organisme de recherche public spécialiste des sciences et technologies du numérique s’est vu confier le développement et la gestion d’une plateforme TransAlgo, visant à évaluer la transparence des algorithmes.

Toujours dans ce souci de transparence, l’Allemagne demande à ce que les autorités puissent vérifier la neutralité des algorithmes de hiérarchisation de Google. Aux Etats-Unis, le maire de New-York a ratifié une loi de responsabilité algorithmique visant à contrôler les décisions prises par les algorithmes utilisés par la police et la justice. Dans ce contexte, comment rassurer (nécessité d’obtenir une certification, nature et étendu des contrôles, qualifications nécessaires, etc…) ?

Si l’intelligence artificielle permet de faire des choix avec des biais et des erreurs, l’enjeu est que le taux de biais et d’erreurs soit plus faible que si les choix sont faits par des humains.

Article rédigé par les membres de la Commission Prospective Internationale :

• Kadi SEYDI
• Patrick STACHTCHENKO
• Serge YABLONSKY

Notes