В своем блоге Яндекс объявил о запуске YandexGPT 3 Lite – облегченной версии нейросети третьего поколения. Протестировать ее могут клиенты облачной платформы Yandex Cloud через API. Разработчики позиционируют ее как «коммерческую модель, оптимальную по цене и качеству».
YandexGPT 3 Lite подойдет для решения рутинных задач как в небольших компаниях, так и в крупных организациях. Модель рассчитана на реализацию задач, в которых важна скорость предоставления ответа. В качестве примера можно привести такие сценарии, как консультация клиентов с помощью чат-бота, проверка орфографии, подготовка ответов для службы поддержки, создание маркетинговых материалов и анализ данных, необходимых для принятия решений.
Сравнение по методике Side by Side с облегченной моделью предыдущего поколения YandexGPT 2 Lite и с конкурентом GPT-3.5 Turbo показало, что новая версия от Яндекса превосходит по количеству верных ответов (56% по сравнению с 50% от модели предыдущего поколения и 48% от нейросети от OnenAI). При вводе одних и тех же запросов обновленная модель давала лучше ответы в 68% случаев по оценкам экспертов.
Источник: блог Яндекса (здесь, далее и на обложке)
Новая модель допускает сравнительно меньше орфографических и фактических ошибок. Эксперты дополнительно оценивали, насколько хорошо новая модель справляется с задачами классификации, генерации контента, ответами на вопросы и другими основными типами бизнес-задач. Далее наглядно были представлены результаты тестирования:
При разработке новой версии модели был усовершенствован отбор данных для предварительного обучения. Создатели использовали обучение с подкреплением, также технологии curriculum learning для поэтапного усложнения данных и Grouped Query Attention для ускорения обработки информации без потери качества.
YandexGPT 3 Lite доступна для интеграции в коммерческие продукты через API в сервисе Foundation Models. Новая модель заменит предыдущую в течение месяца, но протестировать ее можно уже сейчас. Стоимость использования YandexGPT 3 Lite составляет 20 копеек за тысячу токенов. Новые пользователи Yandex Cloud смогут бесплатно воспользоваться моделью в демо-режиме.
Комментарии