Senior AI Platform Engineer - LLMOps (w/m/d)Senior AI Platform Engineer - LLMOps (w/m/d)
Stellen-ID: 27705Verstärke unser Team und gestalte gemeinsam mit uns deine Zukunft! Wir – die Apleona GmbH– suchen für unseren Standort in Bundesweit Senior AI Platform Engineer - LLMOps (w/m/d) - JobID27705Deine Mission:Du sorgst dafür, dass unsere KI-Anwendungen geprüft und kontrolliert live gehen – und dort verlässlich bleiben. Mit automatischen Qualitätstests, sauberer Versionierung, schrittweisen Releases und durchgängigem Monitoring machst du aus vielversprechenden KI-Lösungen verlässliche Produkte.
Deine Perspektiven:Schlüsselrolle für Vertrauen: Ohne deine Qualitäts-Gates geht keine KI-Lösung livePlattformdenken:Du baust geteilte Dienste, die alle KI-Lösungen nutzenState of the Art:eval-gated CI/CD, Canary-Releases und Observability für SprachmodelleModerner Stack:Microsoft Azure, TypeScript/Node.js, Python und moderne Eval- und Observability-WerkzeugeGestaltungsspielraum:Du setzt die Qualitätsstandards für KI bei ApleonaWelche Aufgaben kommen auf Dich zu:Verantwortung für die Release-Einheit einer KI-Anwendung: Prompts, Modellversion, Retrieval-Index, Tools, Guardrails und PoliciesEvaluations-Harness aufbauen:Referenzfälle, Metriken und Quality GatesEval-gated CI/CD, Versionierung und gestufte Rollouts mit Canary und RollbackEnd-to-end-Observability:Tracing, Latenz und KostenGeteilte Plattformdienste entwickeln und betreiben – in gemeinsamer Rufbereitschaft mit dem
IT-PlattformbetriebWas Du mitbringen solltest:Mindestens 5 Jahre Softwareentwicklung, davon Erfahrung mit Sprachmodell-Anwendungen im Live-BetriebDu hast automatische Test- und Freigabeprozesse (CI/CD) selbst aufgebaut, nicht nur genutztDu hast Monitoring für Live-Anwendungen eingerichtet (Fehler, Antwortzeiten, Kosten)Backend-Entwicklung in TypeScript/Node.js und PythonPraxis auf einer großen Cloud (Azure bevorzugt, AWS oder Google Cloud) und Nähe zu DevOps/SREEnglisch fließend, Deutsch von VorteilNice to have:Guardrail- und Security-Design (Prompt Injection, Content Safety, Red Teaming), FinOps für Modellkosten (Token-Budgets, Modell-Routing), Azure AI Foundry Evaluation, Tools wie promptfoo, Ragas, Langfuse oder OpenTelemetry, Terraform, GitHub ActionsEin Plus:KI-Betrieb mit Audit- und Compliance-Anforderungen (z. B. EU AI Act, ISO 27001), Plattformbetrieb mit mehreren tausend Nutzern
im KonzernDarauf kannst du dich freuen:Eine zukunftssichere und anspruchsvolle Tätigkeit in einem professionellen Arbeitsumfeld, dasVielfalt und Gleichberechtigung fördertEin unbefristeter ArbeitsvertragVorteile aus dem hauseigenen Tarifvertrag30 Tage Urlaub sowie Weihnachten- und Silvester freiDie Möglichkeit zum mobilen ArbeitenFamilienfreundliche Personalpolitik, zur Unterstützung in verschiedenen LebensphasenFlexible Arbeitszeitmodelle für eine echte Work-Life-BalanceExklusive Angebote für Mitarbeitende mit hochwertigen Sonderkonditionen für Produkte und Leistungen renommierter Hersteller und MarkenAPLEONA - Weiterbildungsprogramme zur persönlichen und fachlichen WeiterentwicklungDie Option auf Jobrad-Leasing, für Ihr persönliches Training oder den Weg zur ArbeitEin attraktives Mitarbeiter-werben-Mitarbeiter-ProgrammWir leben Vielfalt und Chancengleichheit.
Wir freuen uns daher über alle qualifizierten Bewerbungen unabhängig von Geschlecht, ethnischer Herkunft, Religion, sexueller Orientierung, Alter oder etwaigen Beeinträchtigungen. Ansprechpartner:Dana Korpis+4915254870507Wir bitten Personalberater und -dienstleister von einer Kontaktaufnahme abzusehen. Die angegebenen Kontaktdaten sind ausschließlich für Bewerbende gedacht.
Arbeitgeber
Mehr Stellen finden
Ähnliche Stellen bei anderen Arbeitgebern
Senior-Ingenieur TGA / Energie- und Gebäudetechnik (m/w/d)
Niederdorla+ 2 weitere
60.000–75.000 € brutto/Jahr
Senior Procurement Manager:in (all genders) - 2 Jahre befristet
Niederdorla+ 1 weitereBefristet

Senior Site Manager Hochbau · Oberbauleiter, bundesweite Bauprojekte (mwd)
Niederdorla+ 16 weitere
Weitere Stellen bei Apleona Group
Alle 8 Stellen

Senior Finance Manager Group Performance Management & Reporting (w/m/d)
Frankfurt am Main
100.000–135.000 € brutto/Jahr


(Senior) Manager Finance Transformation International (w/m/d)
Frankfurt am Main und Umgebung
100.000–135.000 € brutto/Jahr


