TypeSafe AI lance Jev, une innovation majeure dans le traitement des données textuelles

La semaine dernière, TypeSafe AI a présenté Jev, son premier modèle de la nouvelle catégorie des « System One models ». Contrairement aux modèles de langage traditionnels (LLM), Jev ne génère pas de texte en sortie, mais produit des nombres à virgule flottante représentant des catégories, des réponses binaires, des évaluations et des scores de confiance associés. Cette approche novatrice ouvre des perspectives intéressantes pour l’analyse automatisée d’informations non structurées.

Une solution rapide et économique

TypeSafe décrit Jev comme une « fonction d’intelligence frontalière » qui transforme des entrées textuelles non structurées en décisions probabilistes typées. Le modèle se distingue par sa rapidité et son coût extrêmement réduit. Alors que les LLM classiques facturent à la fois l’entrée et la sortie, Jev ne facture que l’entrée, avec un tarif de seulement 0,042 dollar par million de tokens. Ce prix est même inférieur à celui du GPT-5 Nano d’OpenAI, proposé à 0,05 dollar par million de tokens.

Trois types de questions pour des analyses ciblées

Avec Jev, les utilisateurs peuvent poser trois types de questions :

  • Des questions oui/non (appelées « Noul », pour Bernoulli), qui retournent un score de confiance entre 0 et 1.
  • Des questions à choix multiples, où le modèle fournit une distribution de probabilités sur les options proposées.
  • Des questions d’évaluation, où l’utilisateur définit une échelle numérique avec des descriptions, et le modèle attribue un score dans cette plage.

L’API de Jev permet d’envoyer un seul document (« état ») et autant de questions que possible dans la fenêtre de contexte. Les questions sont évaluées en parallèle, ce qui signifie qu’envoyer plusieurs questions prend autant de temps que d’en envoyer une seule.

Applications potentielles et limites éthiques

Le cadre des « modèles décisionnels » de Jev est particulièrement adapté aux tâches de classification, comme la détection de spam, l’attribution d’étiquettes ou le classement par priorité. Des expérimentations ont également montré son efficacité pour le réclassement de résultats de recherche, où Jev peut évaluer la pertinence de centaines de candidats par rapport à une requête initiale.

Cependant, cette approche soulève des questions importantes concernant la transparence et les biais potentiels. Contrairement aux LLM traditionnels, Jev ne fournit aucune justification textuelle pour ses décisions. Il est donc difficile de comprendre quels éléments du texte ont influencé le résultat. Cela pose des défis particuliers en matière d’évaluation des biais, surtout si le modèle est utilisé pour des décisions sensibles comme l’évaluation de candidats à un emploi.

Une expérience anecdotique a révélé des résultats surprenants : lorsque Jev a évalué les villes de la baie de San Francisco, il a classé Cupertino en tête et East Palo Alto en bas de son classement. Ces résultats soulignent la nécessité de tests rigoureux pour éviter les biais inconscients.

En conclusion, Jev représente une avancée significative dans le traitement automatisé des données textuelles, mais son utilisation doit être accompagnée d’une évaluation approfondie pour garantir l’équité et la transparence des décisions prises.