REGARD · L'IA
Le rôle exact de l'IA , et ses limites
La position de REGARD est inhabituelle et assumée : le modèle de langage (LLM) n'est jamais ce dont dépend la fiabilité. Il aide à comprendre et à formuler. Les chiffres et les décisions, eux, viennent d'un code vérifiable.
Le principe : déterministe d'abord, LLM ensuite
Un système déterministe donne toujours le même résultat pour la même entrée , c'est du code classique, prévisible et testable. Un LLM, lui, est probabiliste : il génère du texte plausible, ce qui est puissant pour le langage mais risqué pour un chiffre réglementaire. REGARD confie donc le calcul, les contrôles et les décisions au code déterministe, et réserve le LLM à ce qu'il fait le mieux : interpréter une question floue et rédiger une réponse claire.
Ce que le LLM fait ici
- Comprendre une question en langage naturel et l'orienter vers la bonne opération
- Reformuler une réponse factuelle en français clair et lisible
- Jouer le rôle de juge : vérifier qu'un brouillon ne contient aucun chiffre non présent dans les données
- Gérer les formulations ambiguës que des règles fixes ne couvrent pas
Ce qu'il ne fait jamais
- Calculer un montant ou un total , c'est le code qui calcule
- Décider seul si une limite est dépassée , c'est une règle déterministe
- Inventer un chiffre absent des données , l'autocontrôle le rejette
- Accéder directement à la donnée brute , il ne voit que des faits déjà vérifiés
Les limites, dites franchement
Un LLM peut se tromper
C'est précisément pourquoi il n'a pas la main sur les chiffres. Le calcul et les décisions reviennent au code déterministe ; le LLM ne fait que reformuler des faits déjà vérifiés.
Le LLM-juge est lui-même non-déterministe
Relancé sur une réponse identique, il peut la valider deux fois puis la rejeter une fois. Le taux d'hallucinations détectées est donc une mesure bruitée, à lire sur plusieurs runs , pas un chiffre gravé. On le mesure et on le documente ainsi.
Sans clé d'API, le LLM est absent , et le système fonctionne quand même
Les réponses sont alors composées par gabarits à partir des faits vérifiés. Moins fluide, tout aussi fiable. La fluidité dépend du LLM ; la fiabilité, non.
La conversion en euros est à taux fixes
Les totaux en équivalent euros reposent sur des taux de change figés et documentés, à titre indicatif , pas des taux de marché temps réel.
Le périmètre est volontairement restreint
REGARD répond à un type de questions précis et refuse explicitement ce qu'il ne sait pas traiter.
Concrètement, dans REGARD
Les modèles utilisés sont Llama 3.3 70B via Groq (rapide, principal) avec Gemini 2.0 Flash en repli. Chaque réponse affiche un bandeau de transparence indiquant si elle a été produite en mode déterministe seul ou déterministe + LLM, avec le niveau de confiance et le temps de réponse. Rien n'est caché à l'utilisateur.