Scalo
dodano: 2 dni temu16Wyświetleń
Data Engineer
Miejsce Pracy
Warszawa+Hybrydowo
wynagrodzenie
do 140 PLN / h
- Znajomość jezyka
- -
- Typ oferty
- Działalność gospodarcza
- Doświadczenie
- Minimum 2 lata
Zakres współpracy
Świadczenie usług w ramach projektu migracji środowiska bazodanowego Oracle do Google Cloud Platform, z wykorzystaniem BigQuery, Pub/Sub oraz Cloud Storage.
Projektowanie, implementację i rozwój rozwiązań Data Engineering na platformie GCP, w szczególności z wykorzystaniem BigQuery, Cloud Storage i Pub/Sub.
Migrację oraz przebudowę procesów przetwarzania i zasilania danych ze środowisk on-premise do Google Cloud Platform.
Projektowanie i rozwój procesów batch oraz streaming, wraz z mechanizmami kontroli jakości danych, obsługi błędów i ponawiania przetwarzania.
Modelowanie danych oraz optymalizację struktur i zapytań SQL dla dużych wolumenów danych z uwzględnieniem wydajności, skalowalności i kosztów przetwarzania.
Analizę oraz migrację istniejących procesów ETL opartych o Informatica PowerCenter do architektury docelowej w GCP.
Implementację logiki transformacji i walidacji danych z wykorzystaniem SQL oraz Python.
Współpracę przy analizie technicznej, testach, wdrożeniach oraz przygotowywaniu dokumentacji technicznej.
Lokalizacja projektu: Warszawa.
Tryb realizacji usług: hybrydowo, obejmujący obecność w biurze w Warszawie 1 raz w miesiącu.
Budżet projektu: do 140 PLN/h + VAT, w zależności od doświadczenia oraz zakresu świadczonych usług.
Kompetencje wymagane
- Minimum 2 lata komercyjnego doświadczenia w obszarze Data Engineering, integracji lub przetwarzania danych
- Praktyczne doświadczenie w pracy z Google Cloud Platform, w szczególności BigQuery, Cloud Storage oraz Pub/Sub
- Doświadczenie w projektowaniu i implementacji procesów migracji danych do środowisk chmurowych
- Praktyczna znajomość baz danych Oracle oraz doświadczenie w tworzeniu i optymalizacji zapytań SQL
- Doświadczenie w pracy z dużymi wolumenami danych i analizie wydajności zapytań
- Znajomość modelowania danych oraz projektowania logicznych i fizycznych modeli danych
- Praktyczne doświadczenie z Informatica PowerCenter umożliwiające analizę oraz modyfikację procesów ETL
- Znajomość języka Python w zakresie implementacji logiki przetwarzania danych
- Doświadczenie w pracy z repozytoriami kodu oraz procesami CI/CD
- Umiejętność przygotowywania testów jednostkowych i integracyjnych oraz dokumentacji technicznej
Mile widziane
- Doświadczenie w migracji hurtowni danych z Oracle do BigQuery
- Znajomość PostgreSQL
- Doświadczenie w projektach realizowanych dla sektora finansowego lub bankowego
- Znajomość praktyk DevOps oraz monitorowania procesów danych
Co oferujemy
- Możliwość świadczenia usług w różnorodnych projektach z obszaru Software, Embedded, Data i Cloud Services
- Zaangażowanie w dodatkowe inicjatywy presealsowe oraz eksperckie
- Dostęp do opieki medycznej, karty sportowej oraz platformy kafeteryjnej zgodnie z obowiązującymi zasadami współpracy