Java Data Engineer
Коротко
Develops and optimizes ETL processes for a large bank's DWH on Hadoop, including data validation. · Needs: DWH project experience; Hadoop ecosystem (HDFS, Hive, Spark, HBase); SQL; Java; Unix shell scripting; relational DBs.
Описание от работодателя
Мы в поисках Java Data Engineer на проект одного из крупнейших банков страны по созданию централизованного хранилища данных, объем которого уже превышает 10 ПБ. Это продуктово-ориентированная инженерная команда с функциями развития выделенных технологических направлений, отражающих новый подход компании к данным и к применению AI.
Твои задачи:
Разрабатывать и внедрять ETL процессs
Оптимизировать производительность ETL процессов
Разрабатывать и настраивать алгоритмы валидации данных, проверки технического качества данных
Участвовать в сложных интеграционных проектах по развитию DWH на Hadoop
Что мы ждем от тебя:
Опыт работы на проектах с DWH
Опыт работы с экосистемой Hadoop (HDFS, Hive, Spark, HBase)
Хорошее знание SQL
Опыт программирования Java
Опыт работы с Unix shell, разработки скриптов bash/Perl/Python
Опыт работы с реляционными СУБД (Oracle, MS SQL и т.п.)
Желателен опыт работы с промышленными ETL-инструментами (Informatica, ODI)
Что мы обеспечим:
Сессии профессионального развития персонала дважды в год, результатом которой является план индивидуального развития каждого сотрудника
ДМС (поликлиническое обслуживание, вызов врача на дом, услуги скорой помощи, экстренная госпитализация, вакцинация от гриппа, базовые услуги стоматологических клиник и психологическая поддержка, оформление международного страхового полиса) и скидку на покупку ДМС для ближайших членов семьи
Технику для комфортной работы
Обучение и участие в конференциях за счет компании, повышение квалификации в корпоративном университете Лиги