Développement LLM : des applications fiables autour des grands modèles

Ce que l'ingénierie ajoute au modèle

Un prototype impressionnant se construit en une après-midi. Une application fiable, c'est autre chose : réponses cohérentes d'un jour à l'autre, gestion des pannes du fournisseur, droits d'accès, coûts prévisibles. L'essentiel du travail se situe autour du modèle, pas dans le modèle.

• Contexte : quelles données donner au modèle, dans quel ordre et en quelle quantité.
• Consignes : un cadre écrit qui définit le rôle, les refus et le format de réponse.
• Outils : accès contrôlé à des bases, API ou calculs que le modèle appelle au besoin.
• Évaluation : un jeu de cas de test rejoué à chaque modification.
• Observabilité : journaux, coûts par requête, alertes d'erreur.

Chaque projet commence par une question : comment saurons-nous que l'application est assez bonne ? Sans réponse écrite, les discussions de recette deviennent subjectives. Nous fixons donc, avant de coder, vingt à cinquante cas de test et le taux de réussite minimal que vous acceptez pour passer en production. Pour une vue d'ensemble de nos prestations, consultez le développement IA.

Modèles et architectures que nous mettons en œuvre

Nous choisissons le modèle sur vos cas de test, pas sur la réputation : un modèle plus petit suffit souvent et coûte moins. Pour les assistants par document, voyez aussi notre page chatbot RAG.

Données, RGPD et hébergement

Un LLM traite le texte que vous lui envoyez. Dès que ce texte contient des informations sur des personnes, le RGPD s'applique. Nous documentons les flux, limitons les données envoyées, et discutons avec vous du lieu de traitement et des conditions des fournisseurs. Votre délégué à la protection des données ou votre avocat valide l'ensemble ; la CNIL et l'Autorité de protection des données belge publient les références.

Le règlement européen sur l'IA classe certains usages selon le risque (recrutement, crédit, par exemple). Si votre projet s'en approche, nous le signalons dès le cadrage pour que vous interrogiez votre conseil avant de développer.

Deux exemples de projets

Assistant de recherche dans une base de contrats

Les juristes de l'entreprise posent une question en français et obtiennent les clauses concernées avec leur emplacement exact. L'outil ne rend pas d'avis : il retrouve et cite, et chaque réponse renvoie au document d'origine pour que le juriste vérifie lui-même le texte avant de s'y fier.

Tri et résumé de demandes entrantes

Chaque demande reçue par e-mail est classée, résumée et rattachée à un dossier existant dans le logiciel de gestion. Les cas ambigus partent à un humain, avec le motif du renvoi, et un tableau de bord montre les motifs de renvoi pour améliorer les consignes.

Prix et conduite de projet à distance

Une application LLM ciblée démarre à 1 500 USD. Le prix grimpe avec le volume de documents, le nombre d'intégrations, les rôles d'utilisateurs et la rigueur d'évaluation exigée. Taux horaire de 30 USD. Les coûts d'API des modèles dépendent de votre usage : nous les estimons dans le devis et installons un plafond mensuel pour éviter toute surprise.

Nous travaillons depuis Pune et n'avons pas d'équipe sur place en France ni en Belgique. Avec 3,5 à 4,5 heures d'avance sur l'Europe centrale, les appels se tiennent dans vos horaires, avec une démonstration hebdomadaire et un seul chef de projet. Langue de travail : l'anglais, interface et réponses du produit en français. Écrivez-nous.