Modèle de décision vs Modèle de langage
Vous envoyez un texte et un schéma de questions à Jev : il renvoie une décision probabiliste. Aucun mot produit, aucun traitement génératif.
TypeSafe le classe en "System One", en référence au Système 1 théorisé par Daniel Kahneman : le mode de traitement rapide, réflexif et automatique. Là où un LLM classique (Système 2) prend le temps de raisonner puis de rédiger, Jev évalue et tranche. C'est ce qui explique sa latence inférieure à la seconde et son prix de 0,042 $ par million de tokens en entrée (avec des tokens de sortie gratuits, puisqu'il n'y en a pas).
L'équipe derrière le projet réunit Diogo Almeida (ex-OpenAI, co-inventeur du RLHF) et ses associés. Le modèle est actuellement disponible sur liste d'attente et via OpenRouter.
Trois primitives en un seul call API
Pas de syntaxe complexe : les critères se décrivent en langage naturel directement dans le prompt. Le modèle accepte trois formes de réponses :
- Noul : une évaluation binaire (oui / non) avec probabilité.
- Choice : une sélection dans une liste fermée (jusqu'à 255 options).
- Score : une note sur une échelle personnalisée (jusqu'à 10 niveaux).
Le tout s'exécute dans une fenêtre de contexte de 32 000 tokens : bien inférieure aux LLMs récents, mais largement suffisante pour de la classification.
Ce qui change face à la pile technique existante
Le zero-shot tue la maintenance des modèles BERT
Jusqu'ici, classifier à l'échelle imposait d'annoter 2 000 à 3 000 exemples sur Label Studio pour fine-tuner un modèle de la famille BERT. L'opération prenait plusieurs jours. Pire : ajouter deux catégories imposait de réannoter et de réentraîner tout le modèle.
Jev fonctionne en zero-shot. Pour ajouter ou modifier un label, il suffit d'éditer une ligne dans le prompt de la requête.
Score vs Confiance : la clé de l'automatisation
Jev renvoie deux métriques distinctes :
- Le score : la probabilité affectée à l'option choisie.
- La confiance : la netteté de la distribution de probabilité globale.
Si un message client ressort comme « frustré » à 76 %, mais que l'option « calme » capte 20 % du reste, la confiance globale chute. Cela permet d'implémenter des règles de routage simples :
- Confiance haute : exécution automatique par une machine.
- Confiance basse : routage vers un opérateur humain.
Deux cas d'usage montés en sandbox
1. Triage et routage dynamique de tickets support
Nous avons soumis un lot de 20 tickets entrants en leur appliquant trois questions simultanées dans un seul appel API :
- Sujet financier (
Noul) : Facturation. - Analyse émotionnelle (
Choice) : Ton (Calme / Frustré / En colère). - Urgence (
Score) : Quand répondre (Aujourd'hui / Cette semaine / Peut attendre).
Bilan technique :
- Temps d'exécution : 703 ms pour l'ensemble du lot de 20 tickets.
- Volume d'entrée : 3 554 tokens.
- Coût du traitement : 0,00015 $ !
La vitesse d'exécution permet de brancher le modèle en temps réel sur un fil de discussion. Si un client envoie deux messages successifs et que son état passe de Frustré (76 %) à En colère (94 %), le système bascule le fil vers un conseiller humain avant l'escalade.
2. Taggage de contenus et audit d'angles morts
Deuxième test : l'analyse d'un article de blog technique de 2 146 tokens. Traitement exécuté en 745 ms pour un coût de 0,00009 $. À ce tarif, un dollar permet de classifier environ 500 000 articles de cette taille.
Résultats obtenus à partir de notre article sur le filigrane des textes IA :
- IA : 99 %
- Anthropic : 99 %
- Google : 81 %
- Cybersécurité : 56 %
- SEO : 6 %
En fixant un seuil métier à 75 %, le système retient automatiquement IA, Anthropic et Google. Le tag Cybersécurité (56 %) est rejeté.
L'intérêt réside également dans les scores faibles : identifier un score de 6 % sur le tag SEO sur un corpus d'articles techniques permet de repérer statistiquement les angles morts d'une ligne éditoriale.
Application catalogue : cette mécanique s'applique au reclassement de 200 000 références e-commerce. Plutôt que de payer des milliers d'euros de tokens génératifs, Jev permet de tester cinq arborescences concurrentes en parallèle. Si une catégorie absorbe 30 000 produits et sa voisine 12, le problème d'architecture est identifié avant d'écrire la moindre ligne de code.
Ce qu'il faut auditer avant d'envoyer en prod
L'illusion des benchmarks éditeurs
TypeSafe n'a publié aucun papier de recherche, aucun poids d'entraînement, ni les détails de son architecture. Les chiffres annoncés reposent sur une comparaison avec un consensus de LLM (GPT-6 Astra et Claude Fable 5.1), pas sur une vérité terrain.
Les premiers retours indépendants incitent à la mesure. Sur un benchmark de détection de spam publié par Arize, Jev atteint 98,3 % de réussite en zero-shot. Problème : une simple régression logistique entraînée sur 14 800 emails étiquetés atteint 98,4 %. Si vous disposez déjà d'un dataset propre et annoté, les méthodes ML classiques restent plus rapides, moins chères et totalement souveraines.
Souveraineté et conformité RGPD
Les serveurs de TypeSafe sont hébergés aux États-Unis. Envoyer des tickets support contenant des PII (données personnelles nominatives, montants, noms) constitue un transfert hors-UE non conforme au RGPD.
Actions requises :
- Anonymiser/pseudonymiser la donnée avant l'appel API.
- Limiter l'usage de Jev aux données non sensibles (catalogues produits, articles, logs anonymes).
- Attendre une éventuelle option d'hébergement européen.
Matrice d'intégration recommandée
Si vous avez des projets de classification en attente, voici le protocole de test :
- Isoler un corpus dormant : cibler un volume de données non exploitées en raison du coût d'annotation manuelle.
- Construire un dataset de contrôle (100 cas) : annoter manuellement cet échantillon et comparer les sorties de Jev avec vos réponses attendues.
- Calibrer les seuils de confiance : définir la valeur minimale en dessous de laquelle le modèle repasse la main à un humain ou à un script de repli.
La nouvelle répartition des rôles
Jev ne renie pas l'utilité des LLM : il libère les modèles génératifs des tâches de tri pour lesquelles ils sont surdimensionnés.
L'architecture logicielle s'oriente vers deux couches distinctes :
- Les modèles de décision (Jev) : rapides, déterministes, peu coûteux, dédiés à la structuration.
- Les modèles génératifs (GPT-6 Astra, Claude Fable 5.1) : lents, coûteux, dédiés exclusivement à la rédaction et à la synthèse.
En abaissant le coût unitaire d'une décision automatisée à des fractions de centime, la contrainte budgétaire s'efface devant la capacité à traiter l'intégralité de vos flux de données.