SAP BTP, un levier pour développer des applications d’IA à forte valeur ajoutée

Talan s’appuie sur la plateforme Business Technology Platform (BTP), le PaaS de SAP, pour développer une série de cas d’usage de l’IA, IA générative incluse, démontrant la valeur de ces technologies en entreprise. Une démarche appuyée par l’expertise du Centre de Recherche de Talan, sur lequel s’appuie l’activité pour accélérer sa montée en puissance dans ce domaine innovant.

« Pour une entreprise s’appuyant sur SAP, il existe deux voies d’accès principales à l’IA. Les solutions embarquées proposées par l’éditeur, qu’évaluent nos experts fonctionnels, d’un côté. Et la construction de solutions d’IA customisées basées sur le framework BTP, le PaaS de l’éditeur, de l’autre », détaille Jérôme MOLLIER-PIERRET, directeur des offres et de l’innovation chez Talan. C’est cette seconde voie qu’explore l’ESN, en s’appuyant sur le Centre de Recherche et d’innovation, une structure existant depuis maintenant 5 ans. Objectif affiché, selon Jérôme MOLLIER-PIERRET : « cette collaboration nous permet d’intégrer immédiatement les dernières avancées en IA et d’être de manière permanente à l’état de l’art dans la conception d'applications, nous réduisons par ailleurs significativement la courbe d'apprentissage de nos développeurs SAP. »

Mettre en lumière l’intérêt des nouvelles possibilités offertes par les IA génératives comme la recherche sémantique 

La démarche choisie par Talan ? Évaluer la maturité de l’offre AI foundation au sein de la SAP BTP, puis développer plusieurs applications basées sur l’IA « permettant aux entreprises de se projeter sur leurs problématiques propres », dit le directeur des offres et de l’innovation. « Car, avec l’IA, on reste sur un domaine marqué par des approches très itératives avec de nombreux cycles d’essais/erreurs », ajoute-t-il. Talan a donc choisi de développer un ensemble de cas d’usage, des scénarios offrant une réelle valeur ajoutée applicable à différents contextes métiers.

Cela repose pour certains sur les techniques dites de RAG (Retrieval Augmented Generation).  Une méthode permettant d’exploiter des données client pour tirer parti des nouvelles capacités de recherche sémantique des grands modèles de langage, en exploitant les données textuelles semi-structurées.

L’analyse de l’offre SAP BTP a permis au chercheur d’isoler les atouts des deux composants clefs du PaaS de SAP en matière d’IA générative (GenAI) : SAP Generative AI HUB et SAP HANA Cloud Vector Engine. Le premier permet d’instancier différents grands modèles de langage (LLM, pour Large Language Model). « Notamment le modèle du Français Mistral, qui peut être déployé dans les datacenters de SAP en Allemagne, soit la garantie de localiser les données et leur exploitation dans un contexte de souveraineté et un cadre règlementaire européen », souligne Jérôme MOLLIER-PIERRET. De son côté, SAP HANA Cloud Vector Engine assure le déploiement de scénarios de type RAG. « Comme il s’agit d’une extension de la base SAP HANA fonctionnant In-Memory, cet outil offre la capacité d’effectuer des recherches de similarités au sein même de la base de données, un réel avantage pour les performances du RAG amplifiée sur de grosses volumétries », souligne Arnaud DELERUYELLE, docteur en IA ayant rejoint Talan il y a plus d’un an.

Sur la base de ces composants disponibles dans le framework, le chercheur, associé aux équipes du Centre de Recherche, a développé plusieurs cas d’usage en prise directe avec les préoccupations des entreprises.

D’abord, un scénario d’IA prédictive permettant d’effectuer un contrôle qualité sur une chaine de production industrielle au travers de la création de réseaux de neurones dédiés. Basée sur des données issues de la production, celle-ci permet de remonter un dysfonctionnement à partir des photos des produits en bout de chaîne et de capteurs sonores déployés sur la ligne de production.

Ensuite, Talan a développé un outil d’analyse et de priorisation des messages client pour les centres de services, qui analyse les  sentiments de chaque demande. « Et nous avons la capacité à tester le rapport qualitatif des résultats/coûts des différents LLM, ce qui est important compte tenu l’évolution rapide du domaine », précise Arnaud DELERUYELLE.

Autre exemple : la construction d’un chatbot s’appuyant sur un RAG, afin de rechercher des similarités entre des demandes clients et ainsi, exploiter tout un historique de savoir-faire. « C’est là que se concrétise l’intérêt de SAP Vector Engine en termes de performances, relève le chercheur. Pour une recherche de similarité sur plusieurs milliers de vecteurs, les gains de performance de HANA Vector sont remarquables par rapport à d’autres implémentations ». 

Rapprocher technologies, connaissances métiers et FinOps

Fort de ces cas d’usage, Talan peut instaurer un dialogue constructif avec les DSI, en fonction de leur niveau de maturité sur le sujet. « C’est d’autant plus important que nombre d’entre eux sont confrontés à du Shadow IA, des applications d’IA développées par les métiers sans qu’ils soient consultés », souligne Jérôme MOLLIER-PIERRET. « Le point focal de l’IA reste la donnée, il est très important d’engager d’emblée le dialogue sur ce sujet, souligne de son côté Arnaud DELERUYELLE. Par ailleurs, notre méthodologie permet de valider la faisabilité d’un projet avant même de démarrer un prototype. » D’où la démarche privilégiée par Talan, consistant d’abord à repositionner les différentes capacités des technologies d’IA, avant de basculer sur un dialogue uniquement tourné vers les cas d’usage et les bénéfices associés à ceux-ci.

« La valeur de Talan, c’est d’être l’architecte des solutions de demain, résume Jérôme MOLLIER-PIERRET. Ce qui passe à la fois par le choix des meilleures technologies dans le contexte, par la connaissance des métiers de nos clients et par une dimension FinOps, incontournable à l’ère de l’IA générative. Notre valeur ajoutée consiste à rapprocher ces trois dimensions. » Un triptyque que Talan a choisi de concilier d’abord dans les environnements SAP, mais qu’il envisage désormais d’étendre aux autres fournisseurs d’environnements progiciels majeurs, comme Oracle, IBM, Salesforce ou plus spécialisés comme UiPath.

Cette approche est complémentaire avec la stratégie IA du groupe plus vaste qui s’appuie déjà notamment sur les offres des hyperscalers (Azure, AWS et Google Cloud), véritables poids lourds du secteur.

A propos

Arnaud DELERUYELLE est un docteur en IA qui a rejoint Talan il y a plus d’un an. Avant de s’intéresser à BTP, le chercheur a participé à la formation d’une centaine de collaborateurs de Talan à l’IA et a également piloté plusieurs projets de recherche, dont l’un consiste à partir d’un appel d’offre et sur une base de CV, d’identifier les experts les plus adaptés à la construction de la meilleure réponse possible. L’article scientifique relatif à cette solution a été accepté par un comité scientifique et va prochainement être publiée.