MLOps Engineer
MLOps Engineer at Trans.eu Group in Wrocław builds and maintains the infrastructure and processes that keep ML/AI models running in production: GPU, cloud and on-prem resources, CI/CD for ML, model registry, experiment tracking, monitoring and GenAI/LLM tooling (gateways, routing, cost control). Stack: Python, SQL, Docker, Kubernetes/EKS, AWS, MLflow, Snowflake, Terraform.
- Compensation
- Not disclosed
- Location
- Wrocław
- Work setup
- Hybrid
- Seniority
- Senior
- Employment
- Full time
- Experience
- Not specified
- Category
- Devops
- Posted
Skills
Must have
- Practical knowledge of CI/CD processes for ML models, deploying and maintaining models in production
- Python, SQL, Docker, Kubernetes/EKS
- AWS services used in ML, such as S3 and compute resources
- Snowflake, especially efficient and cost-effective retrieval of data and features
- Git, Terraform and tools for monitoring services and model quality
- Ability to explain technical topics simply, react to unexpected problems, precision in environment configuration
- Polish and English at B2 level or higher
Nice to have
- Experiment tracking and model management tools, e.g. MLflow
- ML pipeline orchestration tools, e.g. Dagster, Airflow or Kubeflow
- Handling LLM models, e.g. LiteLLM
Full description
Kogo szukamy:
Szukamy osoby, która lubi porządkować sprawy, zwraca uwagę na szczegóły i dobrze odnajduje się w codziennych wyzwaniach. Ważne jest dla nas, żebyś potrafił/a w prosty sposób wyjaśniać techniczne zagadnienia i szukać rozwiązań, które ułatwiają pracę zespołom data science i machine learning.
Rola i zespół:
Nasz zespół tworzy i utrzymuje infrastrukturę oraz procesy, dzięki którym modele machine learning i rozwiązania oparte na AI mogą sprawnie działać na produkcji. Blisko współpracujemy z zespołami, pomagając im przejść od eksperymentów do gotowych rozwiązań, które działają stabilnie, bezpiecznie i nie generują niepotrzebnych kosztów.
Co będziesz robić:
- Dbać o to, żeby infrastruktura wykorzystywana do trenowania i uruchamiania modeli działała sprawnie, była dostępna i dobrze wykorzystywała zasoby. Będziesz pracować zarówno z GPU, chmurą, jak i infrastrukturą on-prem, dopasowując je do potrzeb zespołów.
- Tworzyć i rozwijać procesy CI/CD dla modeli ML, obejmujące trening, walidację, wdrażanie i wycofywanie modeli.
- Zarządzać rejestrem modeli, śledzeniem eksperymentów oraz wersjonowaniem artefaktów i cech.
- Wdrażać modele na produkcję i tworzyć narzędzia, szablony oraz rozwiązania self-service, które pozwolą zespołom szybciej i samodzielnie przechodzić od pomysłu do wdrożenia.
- Monitorować działanie modeli na produkcji, w tym zmiany jakości, drift i wykorzystanie zasobów. Wprowadzać rozwiązania, które pomagają szybko reagować na problemy, takie jak alerty czy automatyczny rollback.
- Rozwijać standardy i dokumentację MLOps, a także wspierać infrastrukturę dla rozwiązań GenAI i modeli LLM. Obejmuje to . bramki do modeli, routing zapytań, kontrolę kosztów, systemy agentowe.
Czego od Ciebie oczekujemy?
- Doświadczenia: praktycznej znajomości procesów CI/CD dla modeli ML, wdrażania i utrzymywania modeli na produkcji.
- Technologii i narzędzi: znajomości Pythona, SQL, Dockera, Kubernetesa/EKS oraz usług AWS wykorzystywanych w ML, takich jak S3 i zasoby obliczeniowe. Przydadzą Ci się również narzędzia do śledzenia eksperymentów i zarządzania modelami, np. MLflow, orkiestracji pipeline’ów ML, np. Dagster, Airflow lub Kubeflow, oraz obsługi modeli LLM, np. LiteLLM. Ważna jest także znajomość Snowflake, szczególnie w kontekście wydajnego i ekonomicznego pobierania danych i cech, a także Gita, Terraforma i narzędzi do monitorowania usług oraz jakości modeli.
- Podejścia do pracy: umiejętności tłumaczenia technicznych zagadnień w prosty sposób, reagowania na nieprzewidziane problemy i dokładności w konfiguracji środowisk. Zależy nam również na osobie, która jest otwarta na potrzeby innych zespołów i potrafi szukać rozwiązań ułatwiających im codzienną pracę.