Data Engineer

Required skills: Scala, Java, Python, Airflow, REST API, GCP Clurgo to firma stworzona przez developerów dla developerów. Nasze zespoły łączą pełne spektrum kompetencji - od rozwoju oprogramowania i infrastruktury, przez analizę oraz testy, aż po strategiczne zarządzanie produktem i procesami. Realizujemy różnorodne projekty IT dla klientów z wielu branż, dbając o dobre praktyki programistyczne i zachowanie work-life balance. Tworzymy rozwiązania, które mają znaczenie - dla firm w Polsce i na całym świecie. ✅ Dołącz do projektu realizowanego dla dużej organizacji z sektora bankowego, gdzie będziesz rozwijać skalowalne rozwiązania do przetwarzania i integracji danych. Rola obejmuje budowę pipeline’ów, pracę ze Scala, Java i Pythonem, orkiestrację procesów w Apache Airflow oraz integrację platform i API. ✅Technologie i narzędzia: Scala, Java, Python, SQL, Apache Airflow, REST API, Git, CI/CD, Google Cloud Platform (GCP), BigQuery, Cloud Storage, Pub/Sub, Dataflow, Dataproc, Apache Spark Szukamy Ciebie, jeśli: masz minimum 3 lata doświadczenia w Data Engineering lub zbliżonej roli i bardzo dobrze programujesz w Scala/Java oraz Pythonie , dobrze znasz SQL oraz potrafisz budować i utrzymywać skalowalne pipeliny oraz rozwiązania do przetwarzania danych, pracowałeś/aś z Apache Airflow przy tworzeniu, orkiestracji i utrzymaniu workflowów danych, masz doświadczenie z REST API, Git i CI/CD oraz stosujesz dobre praktyki Software Engineering w projektach data, potrafisz samodzielnie diagnozować problemy, optymalizować rozwiązania i bierzesz odpowiedzialność za dostarczane komponenty dobrze odnajdujesz się we współpracy z Data Architectami, Software Engineerami, zespołami platformowymi, analitykami i biznesem Mile widziane: doświadczenie z Google Cloud Platform (GCP) i usługami takimi jak BigQuery, Cloud Storage, Pub/Sub, Dataflow czy Dataproc, znajomość Apache Spark i rozwiązań do rozproszonego przetwarzania danych, doświadczenie z architekturą Data Fabric, integracją danych, governance, data discovery i kontrolą dostępu Zadania: projektowanie, rozwój i utrzymanie niezawodnych pipeline’ów danych oraz frameworków Data Engineering , tworzenie skalowalnych rozwiązań do przetwarzania danych z wykorzystaniem Scala, Java i Python , rozwój i utrzymanie workflowów w Apache Airflow , integracja platform danych, aplikacji i innych komponentów poprzez REST API , udział w rozwoju architektury Data Fabric, w tym integracji danych, governance, discovery oraz access management, monitorowanie, diagnozowanie i optymalizacja wydajności, odporności i jakości rozwiązań danych, stosowanie dobrych praktyk inżynierskich, m.in . version control, testing, code review, dokumentacji i CI/CD , współpraca z architektami danych, inżynierami oprogramowania, zespołami platformowymi, analitykami oraz interesariuszami biznesowymi Czego możesz się spodziewać: współpracy w oparciu o kontrakt B2B pracy hybrydowej 6x w miesiąciu z biura w Krakowie profesjonalnego procesu rekrutacyjnego – zawsze otrzymasz od nas feedback niezależnie od decyzji Poznaj nas lepiej👉 https://www.facebook.com/clurgo/