Un modèle qui ne produit jamais une phrase
Jev, lancé par la startup TypeSafe AI (San Francisco, fondée en 2024 par Diogo Almeida, Erik Gafni et Sasha Sheng), rompt avec le principe même du LLM. On ne lui envoie pas un prompt pour obtenir du texte, mais un « état » (state), c'est-à-dire une chaîne de caractères, un objet JSON ou un tableau de textes, accompagné d'une ou plusieurs questions typées. Le modèle évalue toutes les questions en une seule passe parallèle et renvoie des valeurs structurées assorties de probabilités et d'un indice de confiance.
Trois types de questions, appelées « primitives », sont disponibles :
| Primitive | Usage | Réponse renvoyée |
|---|---|---|
| Choice | Choisir une option dans une liste définie à l'avance | Option sélectionnée, probabilité par option, indice de confiance |
| Score | Noter l'état sur une échelle de niveaux ordonnés | Score continu, probabilités par niveau, confiance |
| Noul | Évaluer une affirmation de type oui/non | Probabilité comprise entre 0 et 1 |
Diogo Almeida, qui a travaillé chez OpenAI sur les méthodes ayant rendu les modèles capables de suivre des instructions (des travaux à l'origine de ChatGPT selon ses propres mots), présente Jev comme le premier représentant d'une nouvelle catégorie, les « System One Models », en référence au système 1 de Daniel Kahneman : la pensée rapide et intuitive, par opposition au raisonnement délibéré. Le modèle est entraîné par une méthode que TypeSafe appelle RLCD (Reinforcement Learning for Calibrated Decisions), où les probabilités sont optimisées contre des résultats plutôt que contre des préférences humaines. TypeSafe n'a toutefois publié ni l'architecture exacte, ni les poids, ni un article technique : l'entreprise décrit seulement le modèle comme fondé sur une architecture transformeur, entraîné exclusivement sur des données synthétiques. Des observateurs extérieurs, cités par Wikipédia, avancent l'hypothèse que Jev pourrait s'appuyer sur un LLM à poids ouverts.
Le calcul économique du token change de nature
C'est l'argument central de TypeSafe : Jev facture 0,042 dollar par million de tokens en entrée, soit 42 dollars par milliard, et ne facture rien pour les tokens de sortie puisqu'il ne génère pas de texte long. À titre de comparaison, TypeSafe situe les LLM actuels entre 0,20 et 10 dollars par million de tokens en entrée. Sur son site, l'entreprise revendique un tarif d'entrée 238 fois inférieur à celui de Claude Fable 5.1, et un slogan général de « 193,6 fois plus rapide, 444,6 fois moins cher », calculé à partir de workflows internes où Jev est comparé à plusieurs LLM du marché.
| Jev (TypeSafe) | LLM généraliste (fourchette annoncée par TypeSafe) | |
|---|---|---|
| Coût entrée / million de tokens | 0,042 $ | Entre 0,20 $ et 10 $ |
| Coût sortie | 0 $ (pas de texte généré) | Variable selon le fournisseur |
| Latence de bout en bout | Entre 70 et 500 millisecondes | Non précisée dans les sources |
| Fenêtre de contexte | 32 000 tokens (Cloudflare) à 64 000 tokens par requête selon la documentation TypeSafe, dont 32 000 pour l'état et la question la plus longue | Non comparable directement |
Ce différentiel de prix change la logique d'architecture pour les workflows d'automatisation. Là où chaque décision de routage, de tri ou de modération nécessitait jusqu'ici un appel complet à un LLM, un modèle facturé uniquement à l'entrée et capable de répondre à plusieurs questions dans le même appel permet de découper une décision complexe en questions simples, combinées ensuite dans le code plutôt que dans un prompt. C'est le principe adopté par LangChain dans son intégration TypeSafeClassifier : router un message vers un modèle « rapide » ou « puissant » selon la difficulté détectée par Jev, ou bloquer un appel d'outil jugé risqué avant son exécution, via des composants nommés ModelRouterMiddleware et AutoModeMiddleware. Ces usages ne remplacent pas le LLM qui rédige et raisonne, ils en réduisent le nombre d'appels.
Il faut cependant nuancer les chiffres de performance. Selon les notes techniques de TypeSafe elles-mêmes, les workflows utilisés pour ces comparaisons ont été créés par les membres de son équipe capacités modèles, un biais possible que l'entreprise reconnaît, en précisant que les gains rapportés se situent probablement en haut de fourchette par rapport à des cas d'usage réels. Le média TechStock² a pour sa part qualifié la revendication de 445 fois moins cher de résultat « auto-testé ». Pour un DSI qui budgétise un projet, ces éléments justifient de mesurer soi-même le gain réel sur son propre trafic avant d'arbitrer une migration.
Zéro hallucination : une conséquence technique, pas une mesure de qualité
Jev ne peut pas renvoyer une valeur absente du schéma fourni, puisque les réponses possibles (les options d'un Choice, les niveaux d'un Score, le oui/non d'un Noul) sont fixées à l'avance par le développeur. TypeSafe présente cela comme l'élimination de l'hallucination. Le raisonnement tient techniquement : le modèle ne peut pas inventer une catégorie qui n'existe pas dans le schéma. Mais rien n'empêche Jev de se tromper et de choisir la mauvaise réponse parmi celles autorisées, avec une confiance élevée qui plus est. Le « 0 % d'hallucination » est donc une conséquence de la contrainte de schéma, pas une performance de justesse mesurée sur un jeu de test.
Ce que cela implique pour la conformité des DSI français
Une société américaine, un traitement dont la localisation n'est pas précisée
TypeSafe AI est une société basée à San Francisco. Les sources disponibles ne précisent ni le lieu d'hébergement technique des requêtes envoyées à Jev, ni le mécanisme encadrant un éventuel transfert de données personnelles hors de l'Union européenne. Un DSI ou un DPO qui envisage d'envoyer des tickets de support, des messages clients ou tout autre contenu comportant des données personnelles à Jev doit donc obtenir ces informations directement auprès de TypeSafe ou de l'intégrateur choisi, avant tout déploiement.
Une politique de conservation qui varie selon le canal
TypeSafe indique s'engager à ne pas entraîner ses modèles sur les requêtes de ses clients, et précise que Jev n'est pas personnalisé avec les données envoyées. L'absence de conservation des données (« zero data retention ») est en revanche réservée aux clients entreprise selon la documentation reprise par IT-Connect. Sur le catalogue Workers AI de Cloudflare, où Jev est proposé comme modèle tiers, la fiche technique affiche « Zero data retention : Yes » pour cette intégration spécifique. Autrement dit, la politique de rétention dépend du canal d'accès choisi (API directe TypeSafe, Cloudflare Workers AI, ou plateforme indépendante comme jev-ai.pro, qui opère ses propres abonnements et n'est pas gérée par TypeSafe) : un point à vérifier contractuellement plutôt qu'à supposer.
Réduire l'exposition avant l'envoi
Pour les organisations qui veulent limiter la quantité de données personnelles effectivement transmise à un modèle tiers hébergé hors de l'Union, une pratique consiste à substituer les données personnelles par des jetons avant l'envoi, puis à les rétablir au retour. C'est le principe retenu par Moon AI, la plateforme française éditée par Stellarr Studio SAS, dont le mécanisme Moon Blur remplace les données personnelles par des jetons avant l'appel aux modèles tiers. Ce procédé étant réversible, il s'agit d'une pseudonymisation au sens de l'article 4-5 du RGPD, et non d'une anonymisation : les requêtes envoyées aux fournisseurs de modèles tiers, y compris à des modèles comme Jev, quittent bien la France une fois pseudonymisées, même si l'application et le stockage de Moon AI restent hébergés chez OVHcloud, à Strasbourg et Roubaix. Ce type de dispositif ne rend pas un usage conforme au RGPD à lui seul : il réduit l'exposition des données brutes, ce qui reste une décision à documenter au cas par cas selon l'analyse d'impact menée par l'organisation.
Une architecture non publiée, un enjeu d'auditabilité
L'absence d'article technique, de poids ou de description fine de l'architecture rend plus difficile, pour une équipe conformité, l'audit du comportement du modèle dans la durée, notamment lorsque ses sorties alimentent directement des décisions automatisées comme le blocage d'un message ou l'escalade d'un ticket sans revue humaine systématique. TypeSafe rappelle elle-même que la décision finale revient à l'entreprise cliente et que tout dépend des seuils de confiance fixés dans le code : c'est donc à l'intégrateur, et non au modèle, que revient la responsabilité de prévoir une revue humaine lorsque la confiance est faible.
Un garde-fou devant les LLM, pas un remplacement
TypeSafe ne présente pas Jev comme un concurrent des LLM généralistes mais comme un complément. Le cas d'usage mis en avant pour les équipes sécurité consiste à poser, à chaque message entrant, une série de questions Noul (tentative de jailbreak, demande d'aide pour un délit, demande de posologie) et une question Score sur la gravité, puis à décider dans le code s'il faut laisser passer, envoyer en revue humaine ou bloquer. Pour un chatbot exposé sur Internet, cela ajoute un contrôle rapide et peu coûteux face aux techniques d'injection de prompt, sans payer un second appel complet à un LLM à chaque échange. LangChain propose déjà ce schéma via son composant AutoModeMiddleware, qui utilise Jev pour vérifier les appels d'outils avant leur exécution et bloquer les actions jugées risquées.
Deux limites techniques comptent pour un déploiement en production : Jev ne traite que du texte (pas d'image, d'audio ni de vidéo dans sa version native), et l'anglais reste sa langue principale d'entraînement, celle où sa précision est la meilleure. Les autres langues sont prises en charge mais, selon TypeSafe elle-même, « pas aussi bien » : un point à tester sur ses propres données avant tout déploiement en français.
Questions fréquentes
Jev peut-il remplacer un LLM comme GPT ou Claude dans une application française ?
Non. TypeSafe ne le prétend pas : Jev ne génère pas de texte et ne peut donc pas rédiger une réponse, un résumé ou un contenu ouvert. Son intérêt se situe dans les décisions répétitives à faible latence (tri, routage, filtrage) qui alimentent ou précèdent un appel à un LLM généraliste.
Le tarif d'entrée de Jev inclut-il un coût de sortie caché ?
Non selon les données disponibles : les tokens de sortie ne sont pas facturés, puisque la réponse consiste en valeurs structurées courtes (probabilités, scores, choix) et non en texte généré mot par mot. Le coût annoncé, 0,042 dollar par million de tokens en entrée, ne couvre donc que l'état et les questions envoyées.
Une entreprise française peut-elle envoyer des données personnelles à Jev sans risque RGPD ?
Les sources disponibles ne détaillent pas de mécanisme de transfert conforme au RGPD spécifique à TypeSafe AI, société basée aux États-Unis. Une entreprise française souhaitant utiliser Jev sur des données personnelles doit vérifier contractuellement la politique de conservation applicable au canal choisi (API directe, Cloudflare Workers AI ou plateforme tierce) et évaluer si une réduction préalable de l'exposition des données, par exemple via une pseudonymisation, est nécessaire au regard de son analyse d'impact.
Les chiffres de performance annoncés par TypeSafe (193,6 fois plus rapide, 444,6 fois moins cher) sont-ils vérifiés de façon indépendante ?
TypeSafe précise elle-même, dans ses notes techniques, que ces workflows ont été créés par sa propre équipe et que les gains rapportés se situent probablement en haut de fourchette par rapport à des cas réels. Le média TechStock² a qualifié cette revendication d'auto-testée. Il est donc recommandé de mesurer le gain réel sur son propre trafic avant de fonder un choix d'architecture sur ces seuls chiffres.