Т-Банк
Руководитель продуктовой аналитики — Customer AI Products
Зарплата не указана
1 – 5 летГибрид
Навыки
SQLPythonA/B-тестированиеML/LLM-продуктыLLM-as-a-judgegolden setsметодология экспериментовпричинный выводsequential testingSRMмножественные сравнения
Обязанности
- 01Руководить аналитической функцией направления: управлять лидами аналитики продуктовых групп, развивать команду и стандарты экспертизы
- 02Определять и поддерживать стандарты методологии A/B-экспериментов: дизайн, расчёт мощности, требования к валидности и интерпретации результатов
- 03Формировать методологию оценки качества AI-продуктов: определять сценарные метрики, проектировать golden sets, калибровать LLM-as-a-judge относительно человеческой разметки и задавать пороги регрессий
- 04Обеспечивать связь офлайн-оценок качества с онлайн-продуктовыми метриками
- 05Формировать процессы найма и онбординга аналитиков направления
- 06Определять приоритеты аналитического покрытия продуктовых команд
- 07Взаимодействовать с платформенной командой A/B и eval: формировать требования и участвовать в развитии инструментов
Требования
- 01У вас есть опыт построения или трансформации аналитической функции, включая запуск с нуля или перестройку существующей модели
- 02У вас есть управленческий опыт: вы нанимали и развивали аналитиков или лидов аналитики
- 03У вас есть опыт внедрения стандартов и методологии в командах без прямого управленческого подчинения
- 04Знаете методологию экспериментов: дизайн, расчёт мощности, sequential testing, типовые ошибки (peeking, SRM, множественные сравнения), методы причинного вывода и ... подходы
- 05Знаете подходы к оценке качества ML/LLM-продуктов: сценарные метрики, golden sets, LLM-as-a-judge и его ограничения
- 06Знаете SQL и используете Python для анализа данных и прототипирования
- 07Умеете связывать продуктовые метрики с бизнес-результатом и строить дерево метрик
Условия
- 01Гибридный формат работы
- 02Возможность работы в аккредитованной ИТ-компании
- 03ДМС со стоматологией, включая чекапы, компенсацию покупки лекарств и льготные условия страхования для близких
- 04Страховка от несчастных случаев и болезней
- 05Рост по карьерному треку: проходите курсы по софт- и хард-скиллам, развивайтесь с поддержкой ментора и повышайте уровень с матрицей компетенций и регулярным ревью
- 06Сильное комьюнити
- 07Онлайн-консультации с психологами, юристами, специалистами по финансам и здоровому образу жизни
- 08Компенсация затрат на спортивные абонементы, приложение Т-Спорта для онлайн-занятий и командные тренировки с коллегами
- 09Три дополнительных дня к отпуску — можно использовать для отдыха или получить компенсацию
- 10Специальные тарифы на продукты Т-Банка и широкую программу скидок от партнеров
- 11Достойная зарплата — обсудим ее на собеседовании