Senior GenAI / LLMOps Engineer

Required skills: Generative AI, LLM, LLMops Nasz Klient to duża organizacja rozwijająca rozwiązania z obszaru sztucznej inteligencji oraz budująca standardy bezpiecznego i skalowalnego wykorzystania Generative AI (GenAI) w środowisku enterprise. Projekt koncentruje się na budowie i rozwoju technicznych fundamentów umożliwiających bezpieczne, kontrolowane i efektywne kosztowo wykorzystywanie modeli Large Language Models (LLM) przez aplikacje, agentów AI oraz zespoły developerskie. Zakres obejmuje obszary GenAI, LLMOps, AI Governance, Cloud, DevOps i Data , w tym rozwój centralnej warstwy dostępowej do modeli, observability oraz mechanizmów bezpieczeństwa i kontroli kosztów. Do współpracy poszukujemy osoby o silnym, hands-on profilu technicznym, posiadającej praktyczne doświadczenie w projektach GenAI / LLM i gotowej samodzielnie analizować, testować, konfigurować oraz wdrażać rozwiązania związane z infrastrukturą GenAI. 📍 Tryb Współpracy: 100% zdalnie ⏱️ Dostępność: Poszukujemy osób dostępnych od zaraz lub z maksymalnie 1-miesięczną dostępnością 🧑‍💻 CZYM BĘDZIESZ SIĘ ZAJMOWAĆ? Projektowaniem i rozwojem bezpiecznej warstwy dostępu do modeli LLM , w tym rozwiązań klasy LLM Gateway / API Gateway , umożliwiających centralne zarządzanie modelami różnych dostawców Rozwojem integracji API z modelami LLM , obejmujących mechanizmy uwierzytelniania, autoryzacji, routingu, limitowania dostępu oraz kontroli wykorzystania modeli Budowaniem mechanizmów observability dla środowiska GenAI , obejmujących centralne logowanie oraz monitoring wykorzystania modeli, aplikacji, tokenów, błędów i kosztów Testowaniem i oceną modeli LLM , sposobów ich hostowania oraz technologii GenAI pod kątem jakości, bezpieczeństwa, wydajności, możliwości integracyjnych i kosztów, również dla rozwiązań on-premise i private cloud Realizacją technicznych Proof of Concept (PoC) oraz analiz dotyczących nowych modeli, narzędzi i możliwości GenAI , a następnie wsparciem w doprowadzaniu wybranych rozwiązań do standardu produkcyjnego Współpracą z zespołami DevOps, Cloud, Security, Data i Architecture przy przekładaniu zasad AI Governance oraz bezpieczeństwa na konkretne rozwiązania technologiczne 🔍 CZEGO OD CIEBIE OCZEKUJEMY? Must have: Praktyczne doświadczenie projektowe z Generative AI / LLM oraz udział w budowie rzeczywistych rozwiązań wykorzystujących modele językowe Bardzo dobra znajomość integracji z modelami LLM poprzez API oraz architektury rozwiązań GenAI wykorzystywanych w środowiskach enterprise Doświadczenie lub bardzo dobra znajomość obszaru LLMOps / GenAIOps , w tym zagadnień związanych z udostępnianiem, monitoringiem i zarządzaniem modelami Znajomość mechanizmów API Gateway , uwierzytelniania, zarządzania dostępem, routingu, logowania, monitoringu i observability Dobra znajomość ekosystemu modeli LLM , w tym rozwiązań OpenAI , Anthropic , Google oraz modeli open-source Znajomość SQL oraz doświadczenie w samodzielnej realizacji technicznych analiz, eksperymentów i Proof of Concept Nice to have: Doświadczenie z rozwiązaniami LiteLLM , AI Gateway , model router lub proxy dla modeli LLM Doświadczenie z Azure OpenAI , Google Vertex AI , Anthropic lub hostowaniem modeli open-source / on-premise Znajomość Snowflake oraz doświadczenie z platformami danych lub hurtowniami danych Znajomość Kubernetes , konteneryzacji, CI/CD oraz środowisk chmurowych Doświadczenie z observability, FinOps lub optymalizacją kosztów usług AI/cloud Znajomość RAG (Retrieval-Augmented Generation) , agentów AI i narzędzi developerskich wykorzystujących LLM 🤝 DLACZEGO WARTO? Projekt obejmujący budowę technicznych fundamentów środowiska GenAI , w tym LLM Gateway , integracje API, observability, security oraz optymalizację kosztów Możliwość budowania technicznych fundamentów środowiska GenAI – od LLM Gateway i integracji API po observability, security i optymalizację kosztów Hands-on charakter współpracy z przestrzenią na samodzielne eksperymenty, Proof of Concept oraz wdrażanie nowych rozwiązań technologicznych Projekt z dynamicznie rozwijającym się ekosystemem LLM / GenAI oraz modelami komercyjnymi i open-source Współpraca z doświadczonymi zespołami DevOps, Cloud, Security, Data i Architecture 100% zdalny model współpracy 📍 Dziękujemy za wszystkie zgłoszenia! Skontaktujemy się z wybranymi osobami. TQLO Sp. z o.o. – Agencja Zatrudnienia (nr KRAZ 33580)