About this role
Summary: Responsible for ensuring AI applications are reliable in production through automated quality tests, clean versioning, and continuous monitoring. Builds shared platform services and evaluates model performance using modern stacks like Azure, TypeScript, and Python.
Verstärke unser Team und gestalte gemeinsam mit uns deine Zukunft!
Wir – die Apleona GmbH – suchen für unseren Standort in Bundesweit Senior AI Platform Engineer - LLMOps (w/m/d) - JobID 27705
Deine Mission:
Du sorgst dafür, dass unsere KI-Anwendungen geprüft und kontrolliert live gehen – und dort verlässlich bleiben. Mit automatischen Qualitätstests, sauberer Versionierung, schrittweisen Releases und durchgängigem Monitoring machst du aus vielversprechenden KI-Lösungen verlässliche Produkte.
Deine Perspektiven:
- Schlüsselrolle für Vertrauen: Ohne deine Qualitäts-Gates geht keine KI-Lösung live
- Plattformdenken: Du baust geteilte Dienste, die alle KI-Lösungen nutzen
- State of the Art: eval-gated CI/CD, Canary-Releases und Observability für Sprachmodelle
- Moderner Stack: Microsoft Azure, TypeScript/Node.js, Python und moderne Eval- und Observability-Werkzeuge
- Gestaltungsspielraum: Du setzt die Qualitätsstandards für KI bei Apleona
Welche Aufgaben kommen auf Dich zu:
- Verantwortung für die Release-Einheit einer KI-Anwendung: Prompts, Modellversion, Retrieval-Index, Tools, Guardrails und Policies
- Evaluations-Harness aufbauen: Referenzfälle, Metriken und Quality Gates
- Eval-gated CI/CD, Versionierung und gestufte Rollouts mit Canary und Rollback
- End-to-end-Observability: Tracing, Latenz und Kosten
- Geteilte Plattformdienste entwickeln und betreiben – in gemeinsamer Rufbereitschaft mit dem IT-Plattformbetrieb
Was Du mitbringen solltest:
- Mindestens 5 Jahre Softwareentwicklung, davon Erfahrung mit Sprachmodell-Anwendungen im Live-Betrieb
- Du hast automatische Test- und Freigabeprozesse (CI/CD) selbst aufgebaut, nicht nur genutzt
- Du hast Monitoring für Live-Anwendungen eingerichtet (Fehler, Antwortzeiten, Kosten)
- Backend-Entwicklung in TypeScript/Node.js und Python
- Praxis auf einer großen Cloud (Azure bevorzugt, AWS oder Google Cloud) und Nähe zu DevOps/SRE
- Englisch fließend, Deutsch von Vorteil
- Nice to have: Guardrail- und Security-Design (Prompt Injection, Content Safety, Red Teaming), FinOps für Modellkosten (Token-Budgets, Modell-Routing), Azure AI Foundry Evaluation, Tools wie promptfoo, Ragas, Langfuse oder OpenTelemetry, Terraform, GitHub Actions
- Ein Plus: KI-Betrieb mit Audit- und Compliance-Anforderungen (z. B. EU AI Act, ISO 27001), Plattformbetrieb mit mehreren tausend Nutzern im Konzern
Darauf kannst du dich freuen:
- Eine zukunftssichere und anspruchsvolle Tätigkeit in einem professionellen Arbeitsumfeld, das Vielfalt und Gleichberechtigung fördert
- Ein unbefristeter Arbeitsvertrag
- Vorteile aus dem hauseigenen Tarifvertrag
- 30 Tage Urlaub sowie Weihnachten- und Silvester frei
- Die Möglichkeit zum mobilen Arbeiten
- Familienfreundliche Personalpolitik, zur Unterstützung in verschiedenen Lebensphasen
- Flexible Arbeitszeitmodelle für eine echte Work-Life-Balance
- Exklusive Angebote für Mitarbeitende mit hochwertigen Sonderkonditionen für Produkte und Leistungen renommierter Hersteller und Marken
- APLEONA - Weiterbildungsprogramme zur persönlichen und fachlichen Weiterentwicklung
- Die Option auf Jobrad-Leasing, für Ihr persönliches Training oder den Weg zur Arbeit
- Ein attraktives Mitarbeiter-werben-Mitarbeiter-Programm
Interessiert? Werde Teil unseres Teams!
Wir leben Vielfalt und Chancengleichheit. Wir freuen uns daher über alle qualifizierten Bewerbungen unabhängig von Geschlecht, ethnischer Herkunft, Religion, sexueller Orientierung, Alter oder etwaigen Beeinträchtigungen.
Bewerbe dich in nur wenigen Klicks über das Bewerbungsformular!
Wir freuen uns auf deine Bewerbung!Ansprechpartner: Dana Korpis
+4915254870507
Wir bitten Personalberater und -dienstleister von einer Kontaktaufnahme abzusehen. Die angegebenen Kontaktdaten sind ausschließlich für Bewerbende gedacht.