{"id":91631,"title":"Senior AI Platform Engineer- LLM & Agents (m/w/d)","company":"Neurawork GmbH & Co. KG","city":"Berlin","region":"Berlin","location":"Berlin, Germany","work_model":"remote","employment_type":"full_time","employment":["full_time"],"roles":["devops","data_science"],"visa":"not_mentioned","relocation":"not_mentioned","posted_at":"2026-10-23T07:23:16.239000+00:00","tools":["Python","LLM","RAG","pgvector","Kubernetes"],"seniority":"senior","years_experience_min":5,"german_requirement":"required","german_level":"unspecified","english_requirement":"required","english_level":"unspecified","team_language":"unknown","confidence":0.7,"method":"rules","language_badge":"German required","language_evidence":"Sehr gutes Deutsch und gutes Englisch, da du mit Enterprise-Kunden im DACH-Raum arbeitest","requirements_snippet":"5+ Jahre Software-Engineering mit Python in Produktion Erfahrung mit LLMs in Produktion: Tokens, Latenz, Kosten und Evals sind für dich Alltag RAG-Systeme, die du selbst gebaut und betrieben hast, inklusive Retrieval-Tuning und …","url":"https://join.com/companies/neurawork/16863541-senior-ai-platform-engineer-llm-und-agents-m-w-d","source":"join","agency":null,"description_text":"NeuraPlox baut eine AI-Agent-Plattform für Enterprise-Kunden aus Banken, Versicherungen und Pharma. Unsere Kunden müssen ihre KI-Outputs nicht nur erklären wollen, sondern erklären können: gegenüber Aufsicht, Audit und eigenen Fachbereichen. Deshalb bauen wir explainable AI mit Audit-Lineage, Decision-Provenance und Retrieval, das auch bei Millionen von Vektoren pro Tenant sauber funktioniert.\nWir sind ein investor-backed Startup mit einem kleinen Team, in dem jede Entscheidung sichtbar Wirkung hat. Als Senior AI Platform Engineer verantwortest du die Agent-Architektur, also den Kern unseres Produkts, und baust das AI-Engineering bei uns entscheidend mit auf.\nAufgaben\nWas Du bei uns machst\n• Eine produktionsreife AI-Agent-Plattform auf Basis von PydanticAI, LiteLLM und Langfuse\n• RAG-Pipelines mit pgvector at scale: Multi-Tenant-Isolation, Index-Rebuild-Strategie, Hybrid Search und Re-Ranking\n• Einen Multi-Tenant-Token-Quota-Service und Eval-Frameworks pro Tenant\n• MCP-Tool-Integration (Model Context Protocol) als fester Bestandteil der Architektur\n• Lückenlose Auditierbarkeit von Prompt bis Output, damit Entscheidungen für Fachbereich und Aufsicht nachvollziehbar sind\n• Architektur-Entscheidungen, die auch im Bank-, Versicherungs- und Pharma-Umfeld bestehen\n\nWie wir arbeiten\n• Eval-driven: Jeder Agent-Change läuft durch eine Eval-Suite, bevor er live geht.\n• ADRs: Relevante Architektur-Entscheidungen werden dokumentiert, nicht im Slack-Thread vergraben.\n• Gemessen statt geraten: LLM-Calls sind ab Tag eins in Langfuse sichtbar, inklusive Kosten und Latenz.\n• Empirisch: Re-Ranking, pgvector-Sizing und Retrieval-Qualität entscheiden wir auf Basis von Daten.\n• Kurze Wege: Direkter Draht zum Founding-Team, keine Projektmanagement-Ebene dazwischen.\n\nQualifikation\nWas wir suchen\n• 5+ Jahre Software-Engineering mit Python in Produktion\n• Erfahrung mit LLMs in Produktion: Tokens, Latenz, Kosten und Evals sind für dich Alltag\n• RAG-Systeme, die du selbst gebaut und betrieben hast, inklusive Retrieval-Tuning und Re-Ranking\n• Ein Agent-Framework wie LangGraph, PydanticAI oder vergleichbar im Produktiveinsatz\n• Sehr gutes Deutsch und gutes Englisch, da du mit Enterprise-Kunden im DACH-Raum arbeitest\n\nEin Plus, aber kein Muss:\n• Erfahrung mit LiteLLM, Langfuse oder MCP. Was du noch nicht kennst, lernst du bei uns schnell.\n• pgvector-Sizing bei großen Datenmengen\n• Kubernetes-Grundlagen\n• Erfahrung mit regulatorischen Anforderungen wie EU AI Act, DORA, BaFin/MaRisk oder GxP\n\nWas wir bieten\n• Verantwortung ab Tag eins: Du prägst die Agent-Architektur, statt nur Prompts zu tunen, ohne Management-Layer über dir\n• Direkter Draht: Du berichtest an Christoph Knöll (Founder/CEO) und arbeitest eng mit unserem Head of AI, mit kurzen Entscheidungswegen\n• Flexibilität: Voll-remote mit Wohnsitz in Deutschland, flexible Arbeitszeiten, ca. einmal im Monat Team-Tage im Münchner Office\n• Raum zum Testen: Moderner Stack und Zeit, neue Modelle, Frameworks und Retrieval-Ansätze ernsthaft zu evaluieren\n• Fachlicher Austausch: Ein Team, das LLM-Systeme in Produktion betreibt und Entscheidungen auf Basis von Evals trifft\n• Weiterentwicklung und Sichtbarkeit: Konferenzen, Schulungen und die Möglichkeit, als Experte nach außen aufzutreten, z. B. mit Talks oder Fachbeiträgen\n\nBewerbung: so kommst du zu uns!\nWir freuen uns über Deinen CV und beschreibe kurz ein LLM- oder RAG-System, das Du in Produktion gebracht hast: Use Case, Größenordnung, deine Rolle.\nDein Neurawork-Team!","responsibilities_text":"Was Du bei uns machst\n• Eine produktionsreife AI-Agent-Plattform auf Basis von PydanticAI, LiteLLM und Langfuse\n• RAG-Pipelines mit pgvector at scale: Multi-Tenant-Isolation, Index-Rebuild-Strategie, Hybrid Search und Re-Ranking\n• Einen Multi-Tenant-Token-Quota-Service und Eval-Frameworks pro Tenant\n• MCP-Tool-Integration (Model Context Protocol) als fester Bestandteil der Architektur\n• Lückenlose Auditierbarkeit von Prompt bis Output, damit Entscheidungen für Fachbereich und Aufsicht nachvollziehbar sind\n• Architektur-Entscheidungen, die auch im Bank-, Versicherungs- und Pharma-Umfeld bestehen\nWie wir arbeiten\n• Eval-driven: Jeder Agent-Change läuft durch eine Eval-Suite, bevor er live geht.\n• ADRs: Relevante Architektur-Entscheidungen werden dokumentiert, nicht im Slack-Thread vergraben.\n• Gemessen statt geraten: LLM-Calls sind ab Tag eins in Langfuse sichtbar, inklusive Kosten und Latenz.\n• Empirisch: Re-Ranking, pgvector-Sizing und Retrieval-Qualität entscheiden wir auf Basis von Daten.\n• Kurze Wege: Direkter Draht zum Founding-Team, keine Projektmanagement-Ebene dazwischen.","requirements_text":"• 5+ Jahre Software-Engineering mit Python in Produktion\n• Erfahrung mit LLMs in Produktion: Tokens, Latenz, Kosten und Evals sind für dich Alltag\n• RAG-Systeme, die du selbst gebaut und betrieben hast, inklusive Retrieval-Tuning und Re-Ranking\n• Ein Agent-Framework wie LangGraph, PydanticAI oder vergleichbar im Produktiveinsatz\n• Sehr gutes Deutsch und gutes Englisch, da du mit Enterprise-Kunden im DACH-Raum arbeitest\nEin Plus, aber kein Muss:\n• Erfahrung mit LiteLLM, Langfuse oder MCP. Was du noch nicht kennst, lernst du bei uns schnell.\n• pgvector-Sizing bei großen Datenmengen\n• Kubernetes-Grundlagen\n• Erfahrung mit regulatorischen Anforderungen wie EU AI Act, DORA, BaFin/MaRisk oder GxP","status":"open","duplicate_of":null,"first_seen":"2026-11-04T01:58:03.509989+00:00","responsibilities_summary":null,"requirements_summary":null,"all_tools":["Python","LLM","RAG","pgvector","Kubernetes"],"posting_language":"de","evidence":[{"language":"english","requirement":"required","quote":"Sehr gutes Deutsch und gutes Englisch, da du mit Enterprise-Kunden im DACH-Raum arbeitest","source":"rules"},{"language":"german","requirement":"required","quote":"Sehr gutes Deutsch und gutes Englisch, da du mit Enterprise-Kunden im DACH-Raum arbeitest","source":"rules"}],"years_experience_max":null,"mobility_evidence":[],"model_version":"rules-8","english_badge":"English required","company_id":3804}