Jev отказалась от генерации текста ради дешевых типизированных решений
Модель принимает текст или JSON и отвечает на вопросы Choice, Score и Noul с вероятностями и оценкой уверенности.
Заявленная задержка составляет 70–500 мс, а миллион входных токенов стоит $0,042; выходные данные бесплатны.
Создатели признают слабости в арифметике, датах, двойных отрицаниях и защите от инъекций, где атаки успешны в 65% случаев.
Почему важно
Дешевый классификатор может фильтровать потоки и вызывать дорогую LLM лишь там, где действительно нужна генерация или сложное рассуждение.