AI Platform Engineer (m/w/d)
Lupp + Partner · Berlin, DE
Deine Aufgaben - Betrieb und kontinuierliche Weiterentwicklung der Infrastruktur für unsere AI-Plattform (On-Premises und Hybrid) - Verantwortung für den Con...
Job description
Deine Aufgaben: - Betrieb und kontinuierliche Weiterentwicklung der Infrastruktur für unsere AI-Plattform (On-Premises und Hybrid) - Verantwortung für den Container-Betrieb (Docker; perspektivisch auch Kubernetes), einschließlich Image-Management, Deployments und Rollbacks - Administration von GPU-Servern und -Clustern (Kapazität, Performance, Stabilität), insbesondere für lokale Modelle (z. B. Whisper, Embedding-Modelle und perspektivisch weitere) - Aufbau und Optimierung von CI/CD-Pipelines in GitLab, inklusive automatisierter Deployments, Artefakt-Management sowie Qualitäts- und Sicherheitschecks - Entwicklung und Betreuung von Schnittstellen (REST APIs) zur Integration interner Systeme und Datenquellen (z. B. Kanzlei-Management-Systeme, SharePoint/M365) - Sicherstellung eines stabilen Betriebs durch Monitoring, Logging sowie Incident- und Root-Cause-Analysen inklusive Performance-Optimierung - Umsetzung von Security- und Compliance-Anforderungen („by design“), insbesondere in Bezug auf Zugriffsrechte, Secrets/Keys, Systemhärtung und Audit-Logging - Enge Zusammenarbeit mit dem AI- und IT-Team bei der Umsetzung neuer Use Cases (z. B. Datenflüsse, Berechtigungen, Betriebsanforderu...