Laya перенесла типизированные решения Jev на ноутбук и телефон
Открытая модель содержит 421 млн параметров, требует менее 1 ГБ памяти и доступна на Hugging Face
На M5 Pro медианная задержка составила 15,3 мс против 298,1 мс у облачного Jev
Контекст ограничен 512–1024 токенами, а без дополнительной настройки Laya хуже обобщает
Почему важно
Локальный решающий слой убирает сетевую задержку и передачу данных в облако, но требует узких задач и настройки под свой домен.