TypeSafe выпустила Jev, которая выдает вероятности решений вместо текста
Jev отвечает типизированными choice, score и yes/no решениями, а не генерирует строки
Модель считают полезной для реранкинга, модерации, маршрутизации и агентных циклов с ценой около $0.042 за 1M токенов
В одном тесте Jev классифицировала 1597 постов за минуту в 16 потоков за $0.08
Почему важно
Для части задач софт может отказаться от текстового слоя LLM и получить более дешевый и управляемый контур принятия решений