Intelligence Artificielle : Opacité ou transparence ?

Ne vous demandez pas si vous avez besoin de l'IA, vous connaissez déjà la réponse. Le vrai débat se situe sur le modèle qui sera utilisé. Opaque ou Transparente, l'Intelligence artificielle doit être employée à bon escient et dans le respect du RGPD !

Savoir si l'Intelligence Artificielle doit être mise à profit dans la gestion de la relation client, comme dans tout autre secteur d'activité, constitue déjà un débat d'arrière-garde... Même s'il oppose encore des protagonistes aussi célèbres qu'Elon Musk et Mark Zuckerberg ! Désormais, le questionnement porte davantage sur le type d'Intelligence artificielle qu'il conviendra d'utiliser que sur le bien-fondé de l'IA. D'autant qu'en filigrane, le RGPD (Règlement Général sur la Protection des Données) ajoute encore à la complexité de l'enjeu. N'en déplaise à ses détracteurs, l'Intelligence artificielle est, qu'on le veuille ou non, déjà largement utilisée. Quant aux interrogations millénaristes sur la mise en péril de l'Humanité par l'IA, elles sont à réserver plutôt aux philosophes et métaphysiciens qui ne manqueront pas d'arguments contradictoires ! A l'heure actuelle et pour se recentrer sur les risques réels qui portent sur l'entreprise, il faut plutôt prendre en considération les deux grands modèles d'Intelligence Artificielle. Trop souvent, l'IA est perçue à tort comme une technologie monolithique. Il existe en fait deux types : l'IA Transparente et l'IA Opaque... Pour ne pas manquer le train de l'Intelligence artificielle et vous exposer au courroux du régulateur, il s'agit de faire le choix approprié à vos usages et aux spécificités de votre activité.

Opaque ou transparente : gare aux a priori !

Le sens des mots et leur acception commune peuvent parfois être trompeurs ! Méfiez-vous des jugements de valeur ! L'IA Opaque n'est rien de suspect ou de mystérieux. Quant à l'IA Transparente, elle ne doit pas être perçue comme la quintessence de la moralité ! Les deux termes ne font que caractériser de modes de fonctionnement différents. Avec un modèle transparent, l'ensemble du cheminement qui a conduit à une prise de décision peut être suivi et évalué et les données qui ont été utilisées sont clairement identifiées. L'IA Transparente permet de partir d'une décision donnée et de tirer le fil pour remonter l'écheveau jusqu'aux fondements du raisonnement. C'est ce que l'on appelle le " reverse engineering ". Un modèle opaque quant à lui, ne permet d'expliquer un raisonnement car le processus d'analyse et de décision, calqué sur le fonctionnement du cerveau humain s'appuie sur une kyrielle de signaux faibles. Faut-il pour autant considérer qu'il existe une bonne et une bonne mauvaise IA ? Pour Sylvain Harault, Directeur Sales Consulting Europe de l'Ouest pour Pegasystems, " il faut vraiment se méfier du manichéisme, les deux modèles, opaque et transparent font sens s'ils sont correctement employés, ce qui prime c'est l'adaptabilité du modèle vers lequel on s'oriente ". L'IA opaque a des aspects positifs qui peuvent s'avérer utiles dans un contexte approprié. " La transparence peut parfois limiter le pouvoir et l'efficacité de l'intelligence artificielle, rendant les systèmes opaques plus attractifs dans certaines situations ", précise l'expert.

Entre lisibilité et pertinence...

Le modèle d'intelligence artificielle vers lequel vous vous orientez dépend de votre activité. Si l'on considère le secteur financier par exemple, un modèle opaque présente l'avantage d'optimiser la pertinence des décisions dans l'octroi d'un prêt et limite le risque d'erreur. Mais de par sa nature même, il rend impossible aux établissements bancaires d'expliquer de manière détaillée, le processus qui a conduit à la prise de décision. Or, le RGDP prévoit notamment que vous soyez en mesure d'expliquer quelles ont été les données utilisées pour arbitrer une décision. " Le risque avec une IA Opaque, confie Sylvain Harault, c'est que le modèle en vienne à utiliser des critères qui contreviennent à la promesse de la marque ou à sa déontologie et ce, malgré tous les garde-fous qui peuvent être déployés ". L'IA peut facilement utiliser des données neutres pour obtenir des renseignements sur les clients, qu'elle peut ensuite utiliser pour prendre des décisions arbitraires. Faut-il dès lors renoncer à l'IA Opaque ? " Cela revient à se priver un peu rapidement d'un modèle qui peut apporter un niveau de pertinence bien supérieur au modèle transparent, simplement pour éviter la suspicion qui peut peser sur une IA Opaque ", observe Sylvain Harault.

L'IA au service des clients avant tout !

Pour Sylvain Harault, le constat est clair : " dans tous les cas de figure, ce sont les bénéfices client/utilisateurs qui doivent présider au choix entre IA Transparente et IA Opaque... Un aspect qui doit être pris en compte par le régulateur ". En effet, il apparaît dans de nombreux cas, que l'Intelligence artificielle Opaque soit plus pertinente et apporte une meilleure réponse au consommateur lui-même, alors qu'en effet il n'est pas réellement possible d'identifier avec exactitude le processus décisionnel, comme l'exige le RGPD. " Cela génère, au moins temporairement, une zone de flou. Sur les projet marketing, dans des cas de figure simple, il n'y a aura pas vraiment de difficultés, insiste l'expert. Mais dans le cas de données bancaires, ou liées à la santé par exemple, le débat sera plus complexe ". En effet, même si l'on interdit l'accès à certains types d'informations à l'IA, celle-ci finira bien souvent par les identifier et les exploiter par d'autres biais. " Il ne faut pas se montrer trop frileux pour ne pas vider l'IA de sa substance, mais il ne faut pas non perdre de vue la notion de contrôle qui est essentielle pour que chacun soit confortable avec le recours à l'intelligence artificielle ". Le contrôle : un aspect qui ne se limite pas au simple fait de brider l'Intelligence Artificielle, mais à s'assurer qu'elle permet à l'entreprise une démarche globale cohérente. L'Intelligence Artificielle, qu'elle soit opaque ou transparente, doit être employée de manière rationnelle. Si elle était dispersée dans les différents services d'une même entreprise, des décisions contradictoires pourraient être prises. " Un " cerveau " central qui coordonne les décisions entre elles, s'impose, afin d'éviter un chaos décisionnel. Une IA au service de l'IA en quelque sorte, pour vérifier que l'ensemble des décisions forment un tout cohérent ! ", conclut Sylvain Harault.