Sign up free to see how well your resume matches this role.
Wir suchen Verstärkung im Bereich MLOps/Platform Engineering für den Aufbau und Betrieb der Infrastruktur hinter unseren KI-Systemen. Zum Verantwortungsbereich gehören die Services, auf die sich unsere Teams täglich verlassen und die vollständig auf Kubernetes betrieben werden. Wenn du als Kubernetes-/DevOps Engineer lösungsorientiert arbeitest und im Zentrum der Entwicklung, Bereitstellung und Skalierung unserer KI-Produkte tätig sein möchtest, freuen wir uns auf deine Bewerbung.
Technische Betreuung für zentrale Cluster-Services übernehmen – darunter n8n (Workflow-Automatisierung) und LiteLLM (LLM-Gateway/Proxy) – und deren zuverlässigen Betrieb, regelmäßige Updates sowie die korrekte Konfiguration für die darauf angewiesenen Teams sicherstellen
MCP-Server (Model Context Protocol) entwickeln und betreiben, um die sichere Interaktion von KI-Agenten und -Modellen mit externen Tools und Datenquellen zu standardisieren
Den Betrieb plattformnaher Services verbessern – insbesondere in den Bereichen Ingress-Controller, Zertifikatsmanagement (z. B. cert-manager), DNS und Secret Management
CI/CD- und GitOps-Pipelines aufbauen und pflegen
Zusammenarbeit mit Engineering- und KI-Teams, um neue Services nach definierten Standards in den Cluster zu integrieren
Produktive Services überwachen, auftretende Störungen beheben und die Observability (Logs, Metriken, Alerting) der verantworteten Services gezielt ausbauen
GPU-gestützte Workloads und die LLM-Serving-Infrastruktur unterstützen – vom Routing und der Skalierung von Anfragen über GPU-Scheduling bis hin zur Performance-Optimierung selbst gehosteter LLMs
Abgeschlossene Ausbildung (Uni oder FH) mit Schwerpunkt Data Science, Informatik, Software Engineering oder einer vergleichbaren Fachrichtung
Fundierte Erfahrung im Software Engineering und DevOps
Know-how im Aufbau von MLOps-/LLMOps-Plattformen einschließlich CI/CD-Pipelines und Automatisierung
Erfahrung in der Implementierung von Monitoring, Logging und Observability für Produktionssysteme, idealerweise auch mit LLM-spezifischen Tools (z. B. Langfuse)
Sicherer praktischer Umgang mit Kubernetes in Produktionsumgebungen
Linux- und Netzwerkkenntnisse sowie allgemeine DevOps-Grundlagen
Idealerweise bringst du zudem folgende Erfahrungen mit:
Erfahrung mit Ray (oder vergleichbaren Frameworks für verteiltes Rechnen)
Praxis im Umgang mit GPU-Infrastruktur
Vertrautheit mit LLM-Serving oder dem Betrieb eines LLM-Gateways wie LiteLLM
Grundkenntnisse in Observability-Stacks (Prometheus, Grafana, Loki o. Ä.)
Flexible Arbeitszeiten sowie Möglichkeit zum teilweisen Home-Office
Betriebsrestaurant mit abwechslungsreicher und saisonaler Küche (Essenszuschuss)
Parkplätze sowie Ladestationen für e-Autos
Für die Anreise vom Wohnort zum Arbeitsplatz übernehmen wir die Kosten des Öffitickets
Paten- & Bildungsprogramm
Kinderland und Krabbelgruppe mit Ganzjahresbetreuung am Standort Sattledt
Firmenevents
Sportangebot (Beachvolleyballplatz, Übernahme der Startgebühr bei div. Laufveranstaltungen, …)
Unsere Löhne und Gehälter liegen über dem Kollektivvertrag (KV) der Elektro- und Elektronikindustrie. Die KV-Mindestwerte betragen zwischen € 3.888,53 und € 4.993,21 - mit Bereitschaft zur Überzahlung. Die genaue Höhe hängt von deiner Qualifikation und Erfahrung ab. Wir gehören zu den besten Arbeitgebern Österreichs und bieten zahlreiche Benefits, ein familiäres Betriebsklima sowie spannende Entwicklungsmöglichkeiten.
Möchtest du Teil eines engagierten Teams werden und mit deiner Energie Besseres bewirken? Dann freut sich Mona Gelbenegger über deine aussagekräftige Onlinebewerbung.
