Аналитик-разработчик в команду еком-агентов Алисы

Мы используем LLM, VLM, классическое ML и еком-инфраструктуру Поиска. Сейчас мы активно развиваем существующие сценарии и запускаем новых агентов. Мы ищем человека, который сможет самостоятельно находить точки роста еком-агентов, превращать их в работающие решения и доводить задачи до продакшена.

Почему у нас классно

• AI-driven-аналитика уже сегодня. Мы используем AI-агентов не только внутри продукта, но и в повседневной аналитической и инженерной работе. Значительная часть типовых задач уже автоматизирована, поэтому команда может больше времени уделять сложным продуктовым проблемам и запуску новых решений.
• Работа над современным продуктом с прямым влиянием на пользователей. Мы создаём еком-сценарии на базе LLM и VLM, но оцениваем свою работу не по сложности технологии, а по результату в продакшене: насколько лучше агент помогает пользователю выбрать товар и приблизиться к покупке.
• Динамичная среда. Еком-агенты — молодое и быстро развивающееся направление. Продукт и технологии быстро меняются, поэтому здесь можно за короткое время попробовать много разных задач, глубоко погрузиться в современные AI-подходы и заметно вырасти профессионально.
• Небольшая команда и высокий уровень ответственности. У нас короткий путь от идеи до реализации. Каждый участник команды может заметно влиять на продуктовые приоритеты, метрики, аналитическую систему и технические решения.
• Кросс-сервисный продукт. Еком-агенты используют технологии и данные разных сервисов Яндекса. Поэтому в работе много взаимодействия с продуктовыми, инженерными, ML- и аналитическими командами. Это позволяет развивать не только техническую экспертизу, но и коммуникационные и менеджерские навыки.

Что предстоит делать:
Искать и реализовывать точки роста продукта

Вам предстоит разбираться, где и почему пользовательский сценарий работает недостаточно хорошо: агент не понял запрос, подобрал нерелевантные товары, не учёл важное ограничение, показал неподходящие предложения или не помог пользователю приблизиться к покупке.

Нужно будет формулировать гипотезы, находить решения, проводить полный цикл экспериментов и доводить успешные изменения до продакшена. Мы ориентированы на практический результат: решения должны доходить до продакшена и заметно улучшать пользовательский опыт и продуктовые метрики.

Развивать систему оценки качества еком-агентов

Вы будете проектировать и поддерживать автоматизированные eval-пайплайны, которые позволяют оценивать качество работы агентов:
• создавать golden datasets для ключевых еком-сценариев;
• формулировать критерии качества и инструкции для разметки;
• строить пайплайны на основе LLM-as-a-judge;
• автоматизировать разметку с помощью LLM;
• организовывать и анализировать асессорскую разметку;
• исследовать связь между офлайн-оценками, поведением пользователей и онлайн-метриками;
• следить за тем, чтобы ответы агентов были полезными, точными и заслуживающими доверия.

Работать с данными и моделями

Вам предстоит собирать датасеты, разбираться в логах пользовательских сценариев и событиях разных сервисов, решать проблемы качества данных и создавать воспроизводимые пайплайны обработки.

В зависимости от задачи вы сможете использовать классические ML-модели, LLM, VLM и другие методы. Для нас важен не выбор технологии сам по себе, а измеримый результат для продукта.

Развивать аналитическую систему

Вы будете поддерживать и развивать систему данных, на которой строится аналитика еком-агентов: витрины, метрики, документацию и инструменты для продуктовых исследований и экспериментов.

Одно из важных направлений — делать хранилище понятным для AI-систем: развивать семантический контекст, метаданные, lineage, документацию и паттерны получения данных, необходимые агентам для корректной работы с аналитикой.

Больше об аналитике в Яндексе — в канале Yandex for Analytics

Требования:
• Самостоятельно находили точки роста и улучшали продуктовые метрики
• Уверенно владеете Python и SQL
• Работали с большими объёмами событийных данных и логами разн