Data инженер
Что предстоит делать
Мы подготовили инфраструктуру на базе Hadoop и GreenPlum для загрузки, обработки и построения витрин данных. Описали и загрузили данные нескольких продуктов холдинга и приступили к описанию и загрузке следующих. Далее планируем развивать и масштабировать инфраструктуру, запускать потоковое получение данных, увеличивать количество подключенных источников, развивать ETL и Reverse ETL, работать с качеством данных и развивать Data Catalog и Data Lineage. Ваша задача – разрабатывать и дорабатывать ETL‑процессы в Airflow, подключать новые источники данных, создавать и дорабатывать витрины, оптимизировать SQL‑запросы в GreenPlum и PostgreSQL, работать с большими объёмами данных и развивать процессы контроля качества данных. Мы ищем кандидата, который самостоятельно, убедительно и амбициозно будет строить качественные процессы, управлять данными и обеспечивать их хранение и поставку.
Что мы ждём от кандидата
- Самостоятельный, убедительный, амбициозный, с лидерскими качествами (или умением сделать так, чтобы управлять не приходилось:) стремящийся к построению качественных процессов и, как следствие, качественному сбору, хранению и поставке данных
- От 1 года опыта работы с данными
- Отличное знание SQL: JOIN, оконные функции, процедуры
- Умение профилировать и оптимизировать запросы, понимать план выполнения
- Понимание принципов работы реляционных БД и архитектуры DWH: ODS, DDS, DM
- Практический опыт работы с Airflow и ETL‑процессами
- Python на базовом уровне
- Знание Linux и умение работать с командной строкой
- Опыт работы с Git
- Понимание принципов работы Docker
- Опыт работы с большими данными (>100 GB)
- Опыт работы с DataHub
Что предлагаем
- Полная занятость
- Формат работы: можно удалённо
О Deffic
Откликнитесь на сайте работодателя.