La GenAI au service de la Relation Client : les facteurs clés de succès

Nous l'avons vu, les promesses de l'IA générative appliquée à la Relation Client sont nombreuses. Reste, pour bénéficier de tous ses avantages, à implémenter correctement et efficacement ces cas d'usage... c'est là que vos choix technologiques et stratégiques feront la différence !

1.Choisir les modèles adaptés

Le coeur du réacteur, en matière d'IA générative, ce sont les Large Language Models (LLM) dont les petits noms vous sont familiers : GPT, Llama, Mistral...

L'évaluation de ces modèles est très complexe et a fait l'objet de travaux de R&D approfondis de la part d'ILLUIN Technology pour construire une grille d'évaluation multi-critères éprouvée et mise à jour régulièrement sur l'ensemble des LLM open sources existants.

Sans se laisser haper par les aspects techniques, voici les critères qu'interlocuteurs métiers et technique doivent prendre en compte pour choisir les modèles les plus adaptés.

5 questions à se poser pour choisir son LLM
Ou quels critères inclure dans votre prochain RFP

• Votre contexte est-il très spécifique ou non ?
  En fonction de votre réponse, il sera judicieux d'intégrer dans votre évaluation des modèles spécialistes qui seront fine-tunés sur vos tâches précises.
  En effet, il faut savoir que ces modèles sont souvent plus petits que les modèles généralistes, et donc moins coûteux en hébergement.
• Avez-vous besoin de la culture générale d'un grand LLM ?
  Les grands LLM contiennent une connaissance embarquée importante qui leur permet de répondre à des questions génériques. Si votre cas d'usage ne nécessite pas cette culture intrinsèque, il sera préférable de vous tourner vers des LLM plus petits, opérationnels, faciles à manier et moins coûteux.
• Quelle est la performance sur les tâches à réaliser ?
  Bien entendu, il vous faut comparer la capacité des différents modèles à réaliser la tâche voulue. Pour de la génération de synthèse par exemple, la précision des informations (pas d'info inutile), leur exhaustivité (toutes les infos clés) et leur fiabilité (pas d'info erronée) sont de bonnes métriques.
• Quel est le ratio coût / perfomance ?
  Certains modèles sont très gourmands en capacité de calcul - et donc en euros - pour certaines tâches, pour les exécuter en temps réel par exemple. Choisir un modèle aux performances moindre, mais suffisantes, dont les coûts sont maîtrisés mérite réflexion pour améliorer le ROI de votre projet.
• Les données à traiter sont-elles sensibles ?
  Plus elles le sont (caractère personnel, données de santé...), plus vous aurez tendance à vous orienter vers des modèles hébergés sur un cloud privé de confiance, ou encore des LLM open-source hébergés dans votre entreprise, pour garantir la confidentialité des données.

En complément, il est important de mentionner que les grands LLM ont un coût carbone très important et que, sur un plan écologique, il est préférable d'opter pour des modèles plus légers et optimisés.

2.Utiliser une solution d'orchestration

Mixer les approches...

« Très souvent, les nouvelles applications métiers basées sur la GenAI ne reposent pas sur un seul modèle mais plusieurs. Automatiser l'extraction d'informations dans les pièces jointes des mails clients nécessitera par exemple de combiner des algorithmes de Computer Vision pour analyser les tableaux ou les images du document numérisé, du NLU (Natural Language Understanding) pour en comprendre le contenu textuel, du génératif, et même des moteurs de règles métier. » explique Wacim Belblidia, DataScience Director chez ILLUIN Technology...

Et d'ajouter : « Qui plus est, utiliser un seul LLM générique, aussi puissant soit-il, pour l'ensemble des tâches d'une application métier peut s'avérer extrêmement lourd en coûts d'adaptation du modèle et en coûts d'infrastructure. C'est pourquoi il est souvent plus judicieux de le combiner avec des modèles plus petits, plus spécifiques et plus faciles à héberger, pour obtenir de meilleures performances, un meilleur ROI, et plus de souveraineté sur les données. »

...sans créer d'usine à gaz

Seulement voilà : combiner plusieurs modèles est une opération complexe, car elle requiert une connaissance approfondie de leurs forces et faiblesses, et une orchestration technologique pointue. C'est pourquoi l'utilisation d'une plateforme d'orchestration low-code comme nAIxt, la solution d'ILLUIN Technology, conçue spécialement dans ce but, est déterminante dans le succès de vos projets. Pour faire simple, nAIxt permet d'assembler facilement vos modèles d'IA (génératifs, extractifs, règles, etc.) pour concevoir vos applications métier.

Bien plus facile à mettre en place et faire évoluer que du code sur mesure ad hoc, bien plus stable et personnalisable que les orchestrateurs open-source, cette technologie est un véritable game-changer pour intégrer rapidement la GenAI, bénéfice qui augmente encore si vous implémentez de nombreux cas d'usage.

3. Avoir une stratégie transverse / multi cas d'usage

Comme présenté dans la cartographie au début de ce livre blanc : il y a des cas d'usage à valeur ajoutée de la GenAI dans tous les processus et à toutes les étapes de la Relation Client. Dès lors, vos choix en matière d'implémentation de la GenAI ne peuvent s'affranchir totalement d'une réflexion globale.

Tester rapidement

Si votre vision d'ensemble n'est pas encore établie, il est toujours possible de tester et implémenter rapidement vos premiers cas d'usage.

La meilleure option est alors de vous rapprocher de partenaires comme ILLUIN Technology ayant les modèles, l'orchestration, et les applications métiers spécifiques à la Relation Client, disponibles sur étagère, avec une forte capacité à customizer le tout.

Harmoniser et capitaliser

« Lorsque l'ambition est d'injecter progressivement l'IA générative dans l'ensemble du Service Client, alors il faut réfléchir à des choix conjoints sur l'ensemble des cas d'usage. Une stratégie peut consister à opter pour un LLM coeur, de plus en plus performant sur votre métier grâce à un apprentissage mutualisé sur tous vos cas d'usage, et une solution d'orchestration qui mobilisera des modèles complémentaires plus spécifiques pour chaque cas. » affirme Wacim Belblidia.

« En plus d'être très puissant, ce montage permet d'optimiser les coûts et de conserver une formidable agilité pour ajouter de nouveaux cas d'usage, ce qui est clé quand on connaît la vitesse tellurique à laquelle progressent ces technologies. » continue l'expertd'ILLUIN Technology.

Conclusion

Selon votre situation il existe de nombreuses variantes d'implémentation pour bénéficier et faire bénéficier à vos clients de l'IA générative. C'est pourquoi un acteur comme ILLUIN Technology, capable d'accompagner votre réflexion stratégique, comme l'implémentation à tous les niveaux - modèles, orchestration, applications - en utilisant ses solutions sur étagère, sur mesure, ou des solutions tierces, se présente comme un partenaire de choix.

Pour découvrir l'intégralité du libre blanc, cliquez ici.