NTT DATA Deutschland SE: Forward Deployed Engineer (w/m/x) - AI & Enterprise Solutions 1 1
Forward Deployed Engineer / Private AI Architect at NTT DATA Deutschland (Erfurt): designs, builds, and operates secure private AI/GenAI platforms for enterprise clients — self-hosted LLMs, RAG, and agentic AI on Kubernetes with MLOps/LLMOps and GPU-optimized inference, from architecture and blueprints through hands-on production deployment and support.
- Compensation
- Not disclosed
- Location
- Rosenheim, Oberbayern, BAYERN, DEUTSCHLAND
- Work setup
- Remote
- Seniority
- Not specified
- Employment
- Not specified
- Experience
- Not specified
- Category
- Solutions engineering
- Posted
Skills
Must have
- 10–13 years of IT experience, including at least 5 years in AI/ML architecture
- Delivered enterprise AI/GenAI solutions in private cloud, on-premises, or hybrid environments
- Hands-on Private AI/GenAI experience: LLMs, RAG, vector databases, prompt engineering, agentic AI
- Experience with frameworks such as LangChain, LlamaIndex, Haystack, or Semantic Kernel
- Experience with open-source models such as Llama, Mistral, DeepSeek, or Qwen
- Proficient with Kubernetes, Docker/OpenShift, and MLOps/LLMOps (MLflow, Kubeflow, KServe, Ray, vLLM, Ollama)
- Knowledge of evaluation, tracing, monitoring, drift detection, and production support
- GPU/AI infrastructure knowledge: NVIDIA stack, CUDA, MIG, model serving, quantization, distributed inference/training, storage, networking
- Ability to optimize AI workloads for performance, scalability, and availability (GPU utilization, batching, autoscaling, latency)
- Understanding of security, privacy, and sovereign AI
- Strong stakeholder management and communication skills
- German language proficiency at C1 level or higher
Full description
Wir sind Teil von NTT DATA, einem führenden Anbieter von Unternehmens- und Technologiedienstleistungen, KI und digitaler Infrastruktur mit einem Umsatz von über 30 Mrd. $. Als Global Top Employer betreut NTT DATA 75 % der Fortune Global 100-Unternehmen und entwickelt mit Expert:innen in über 70 Ländern gemeinsam innovative Lösungen, die dazu inspirieren, Neues zu wagen und Erfolge sichtbar zu machen. In der DACH-Region sind wir an 15 Standorten in Deutschland, Österreich und der Schweiz vertreten.
Make this the place where _you_ grow
Private AI entsteht nicht auf dem Architekturdiagramm. Du bringst sie vom Design bis in den produktiven Betrieb. Als Private AI Architect (w/m/x) entwickelst du sichere, skalierbare und souveräne AI- und GenAI-Plattformen und verbindest dabei Architektur mit echter Hands-on-Umsetzung. Ob Self-hosted LLMs, RAG oder Agentic AI: Du sorgst dafür, dass aus technologischen Möglichkeiten produktionsreife Enterprise-AI-Lösungen werden.
#LI-DS1
Deine Benefits
- Flexible Arbeitszeiten mit Gleitzeitregelung und Reisezeit ist Arbeitszeit
- Home-Office Möglichkeit sowie Vereinbarung mit Vergütungszuschuss inkl. Arbeitsplatzausstattung möglich
- 30 Tage Urlaub, zusätzlich sind der 24.12. und 31.12. arbeitsfreie Tage
- Sabbatical bis zu einem Jahr möglich
- Remote Work sowie mobiles Arbeiten im EU-Ausland möglich
- Attraktive Benefit- und Entgeltoptimierungsprogramme: betriebliche Altersvorsorge, JobRad, Jobticket, exklusive Rabatte über Corporate Benefits und vieles mehr
- Umfangreiche Gesundheits- und Vorsorgeangebote: verlängerte Entgeltfortzahlung im Krankheitsfall, Betriebsärztliche Betreuung, Unfallversicherung auch für Freizeitunfälle weltweit, Familienservice
- Interne und externe Weiterbildungsmöglichkeiten in der NTT DATA Academy mit fachlichen Trainings, Zertifizierungsangeboten, Soft-Skill-Schulungen, Udemy Zugang
- Diverse Communities und Initiativen (zu Diversity, Equity & Inclusion, ESG und mehr) mit Wissensaustausch auf Augenhöhe
- Teamorientierte Unternehmenskultur mit viel Gestaltungsspielraum
Deine Mission
- Du designst, entwickelst, konfigurierst und implementierst Private-AI- und GenAI-Plattformen auf Basis von Open-Source- und Self-hosted-Technologien und erstellst High-Level- und Low-Level-Designs, Blueprints sowie Referenzarchitekturen für On-Premises-, Private-Cloud-, Hybrid- und Sovereign-AI-Umgebungen.
- Du entwickelst und implementierst LLM-, RAG- und Agentic-AI-Lösungen – von Ingestion Pipelines und Vector Databases über Tool Integrations und Orchestrierung bis hin zu Evaluation Components.
- Du bringst AI-Plattformen mit Kubernetes, Containerisierung und MLOps/LLMOps zuverlässig in den produktiven Betrieb und verantwortest Deployment, Monitoring, Governance sowie Troubleshooting.