Software Engineer AI/RAG (m/w/x)

Festanstellung, Vollzeit · Düsseldorf, Hybrid

Lesen Sie die Stellenbeschreibung in:
Mit KI komplexen B2B-Vertrieb einfacher machen.
Mit der AI Sales Advisor Plattform von FoxBase können Unternehmen ihren eigenen KI-Produktexperten einrichten, der speziell für die reale Welt von Großunternehmen und mittelständischen Betrieben entwickelt wurde.
Wir helfen Unternehmen dabei, komplexe Produktportfolios und beratungsintensive Vertriebsprozesse in vollständig digitale, KI-gestützte Erlebnisse zu verwandeln – ohne Kompromisse bei Qualität, Compliance oder Kontrolle.
Unsere Plattform kombiniert Retrieval-Augmented Generation (RAG) mit bewährter Auswahl-, Konfigurations- und Berechnungstechnologie, um präzise, nachvollziehbare und gesetztes-konforme Antworten zu liefern – über Websites, Chatbots und andere digitale Kanäle hinweg.
Im Gegensatz zu den meisten KI-Tools, die für große Tech-Budgets entwickelt wurden, ermöglicht FoxBase jedem Unternehmen den Einsatz einer wirkungsvollen, vertrauenswürdigen KI, die vom ersten Tag an die Standards der DSGVO und ISO 27001 erfüllt.
Wir machen modernste KI zugänglich, sicher und einsatzfähig in Unternehmen. Damit stärken wir die Wettbewerbsfähigkeit Deutschlands und Europas im neuen KI-Zeitalter.
Wer wir sind
Gegründet in Düsseldorf, haben wir uns zu einem dynamischen Team aus Software-Entwickler, Produkt-Nerds und Machern entwickelt, das von Neugier und Präzision angetrieben wird.

Wir legen Wert auf Schnelligkeit, Eigenverantwortung und Qualität, aber auch auf Teamgeist, Flexibilität, Respekt, Transparenz und Weitsicht – unsere fünf FoxBase-Kernwerte, die bestimmen, wie wir entwickeln, liefern und wachsen.

Zu unseren Kunden zählen einige der innovativsten Industrie- und Technologieführer Europas. Gemeinsam definieren wir neu, was „KI-gesteuerter Vertrieb” in stark regulierten Umgebungen bedeutet – indem wir Sicherheit auf Unternehmensniveau mit moderner KI-Orchestrierung kombinieren.
Nach wem wir suchen
Wir suchen einen Softwareentwickler KI/RAG (m/w/x), der sich für die Entwicklung produktionsreifer KI-Systeme begeistert. Jemanden, der Freude daran hat, komplexe technische Probleme zu lösen, systemorientiert denkt und elegante und effiziente Lösungen liefert.

Hier geht es nicht nur darum, Code zu schreiben. Es geht darum, das Rückgrat von KI-Systemen zu entwickeln, auf die europäische Unternehmen vertrauen können.
Was du tun wirst
  • Du entwickelst und verbesserst unseren Retrieval-Augmented Generation (RAG)-Stack – von der Datenerfassung und -indizierung bis hin zur LLM-Integration und Feedbackschleifen.
  • Du erstellst und optimierst Data-Pipelines, Vektordatenbanken, Embedding- und Re-Ranking-Modelle kombinieren, um zuverlässige, nachvollziehbare Ergebnisse zu erzielen.
  • Du entwirfst Überwachungs- und Qualitätssicherungs-Frameworks, um eine konsistente, messbare KI-Leistung sicherzustellen.
  • Du arbeitest eng mit Produkt- und Entwicklungsteams zusammen, um Komplexität in skalierbare, wartbare Architekturen zu übersetzen.
  • Du verwaltest die AWS-Infrastruktur mit Terraform und sorgst für kosteneffiziente, sichere und hochverfügbare Bereitstellung.
  • Du unterstützt unseren kontinuierlichen Verbesserungsprozess, indem du mit neuen Modellen, Frameworks und Architekturmustern experimentierst.
  • Du betreust Nachwuchsingenieure und trägst zu einer Kultur des Lernens, der Verantwortung und der Handwerkskunst bei.
Was du mitbringst
  • Mindestens 2 Jahre Erfahrung in der Softwareentwicklung – idealerweise in Python-basierten SaaS- oder KI-Systemen.
  • Fundierte Kenntnisse der LLM- und RAG-Konzepte (Retrieval Pipelines, Embeddings, Prompt Orchestration, Evaluation).
  • Fundierte Kenntnisse in PostgreSQL und Datenmodellierung; Erfahrung mit Qdrant ist von Vorteil.
  • Praktische Erfahrung mit AWS (RDS, S3, Lambda) und Infrastructure as Code (Terraform).
  • Ausgeprägte Debugging- und Observability-Kompetenz, du legst Wert auf Verfügbarkeit, Latenz und reale Performance.
  • Vertrautheit mit sicheren Architekturen und GDPR-konformen Umgebungen.
  • Neugier und Eigeninitiative, du liebst es, zu lernen, Wissen zu teilen und neue Konzepte anzuwenden, um unsere Plattform zu verbessern.
  • Flüssiges Englisch (Deutsch ist von Vorteil, aber nicht erforderlich).
Was noch hilfreich wäre
  • Erfahrung in der Entwicklung von KI-Anwendungen für Unternehmen (RAG, Wissensdatenbanken, LLM-Integrationen).
  • Hintergrundwissen in den Bereichen Cloud-Kostenoptimierung, Observability (Prometheus, Grafana) oder Performance Engineering.
  • Beiträge zu Open-Source-KI-Tools oder -Frameworks.
  • Interesse an erklärbarer KI, Evaluierungspipelines oder Tools zur Modellobservability.
Unser Tech Stack
  • Backend-Framework: 
    • FastAPI für leistungsstarke APIs und Dienste 
  • Datenmodellierung und -validierung:
    • Pydantic und Pydantic-AI für strukturierte LLM-Interaktionen und Schema-Durchsetzung 
  • Cloud und Infrastruktur:
    • AWS Lambda (serverlose Microservices) integriert mit API Gateway 
    • Terraform für die Bereitstellung von Infrastruktur und die Automatisierung der Bereitstellung
  • Daten- und Workflow-Orchestrierung: 
    • Apache Airflow für die Verwaltung und Planung von Datenpipelines
  • Datenbanken: 
    • Qdrant (Vektordatenbank) für semantische Suche und RAG-Systeme
    • PostgreSQL für strukturierte relationale Daten
  • Large Language Modells:
    • Integration mit mehreren LLM-Anbietern (OpenAI, Bedrock, Google usw.) für suchgestützte und agentenbasierte Anwendungen – modellunabhängig und anbieterflexibel
  • Visualisierung und Überwachung: 
    • Plotly Dash für interaktive Dashboards und Datenvisualisierungen
    • Grafana für Systemtelemetrie, Metriken und Leistungsüberwachung
Du wirst es lieben hier zu arbeiten
  • Echte Wirkung: deine Arbeit unterstützt KI-Systeme, die von führenden europäischen Unternehmen in den Bereichen Chemie, Bauwesen und Maschinenbau eingesetzt werden.
  • End-to-End-Verantwortung: du entwirfst, entwickelst und lieferst deine eigenen Features, vom Konzept bis zur Produktion.
  • KI, die relvant ist: wir erstellen keine Hype-Demos, sondern vertrauenswürdige, nachvollziehbare KI, die echte Geschäftsentscheidungen verbessert.
  • Freiheit und Flexibilität: du arbeitest remote oder von unserem Hauptsitz in Düsseldorf aus – wir vertrauen darauf, dass du deine Zeit selbst einteilen kannst.
  • Lernkultur: Spezielles Budget für Konferenzen, Kurse und Coaching.
  • Starker Teamgeist: Wir treffen uns wöchentlich oder monatlich in unserem Hauptsitz in Düsseldorf, um uns kreativ auszutauschen und in Kontakt zu bleiben. Wir nehmen unsere Arbeit ernst, uns selbst aber nicht – zum Beispiel an Quizabenden, bei guter Musik, GeoGuessr oder bei Dart spielen.
  • Compliance und Sicherheit: du entwickelst mit ruhigem Gewissen – in einer GDPR- und ISO 27001-zertifizierten Umgebung.
Wie wir arbeiten
Bei FoxBase sind Entwickler Problemlöser, nicht nur Programmierer. Wir entwickeln mit einem Ziel vor Augen: Daten, KI und Menschen miteinander zu verbinden, um messbare Ergebnisse zu erzielen.  

Wir handeln schnell, bleiben neugierig und entwickeln unter Berücksichtigung von Leistung und gesetzlichen Vorgaben.
Wir bleiben pragmatisch und liefern hochwertige, kosteneffiziente sowie skalierbare Lösungen. So verbessern wir unser Produkt kontinuierlich mit messbaren Verbesserungen.
Unsere Reise bis hier
  • Wir entwickeln das erste unternehmensgerechte RAG-Framework, das speziell auf regulierte B2B-Umgebungen zugeschnitten ist.
  • Wir stellen den KI-Produktexperten für Branchenführer in den Bereichen Telekommunikation, Chemie und Bauwesen zur Verfügung.
  • Unsere integrierte KI-Qualitätssicherung und Feedback-Schleifen, halten Modelle erklärbar und überprüfbar.
  • Aufbau einer vollständig DSGVO-konformen Infrastruktur, die in der EU gehostet wird und nach ISO 27001 zertifiziert ist.
  • Aufbau einer Teamkultur, die es liebt, schwierige Probleme zu lösen – mit guter Musik, Quizabenden und gelegentlichen Dartspielen.
Das nächste Kapitel
Wir befinden uns in einer entscheidenden Phase für KI im B2B-Vertrieb. Jetzt suchen wir Entwickler und Kreative, die mit intelligenter, transparenter und kontrollierbarer KI die Art und Weise gestalten möchten, wie Unternehmen ihre Kunden unterstützen und an sie verkaufen.

Wenn du bereit bist, die zuverlässigste KI-Vertriebsplattform in Europa aufzubauen, komm zu uns.

Lass uns gemeinsam komplexe Vertriebsprozesse vereinfachen.
AI that makes complex B2B sales simple.

With FoxBase’s AI Sales Advisor platform, companies can set up their own AI Product Expert, built for the real world of enterprise and Mittelstand” companies. 

We help companies turn complex product portfolios and consultation-heavy sales into fully digital, AI-powered experiences — without compromising on quality, compliance, or control. 
Our platform combines 
retrieval-augmented generation (RAG) with proven selection, configuration, and calculation technology to deliver precise, explainable, and compliant answers — across websites, chatbots, and digital channels. 

Unlike most AI tools built for big tech budgets, FoxBase empowers every company to deploy high-impact, trustworthy AI that meets GDPR and ISO 27001 standards from day one. 
We make cutting-edge AI accessible, secure, and enterprise-ready — strengthening the competitiveness of Germany and Europe in the new AI era. 

Who we are

Founded in Düsseldorf, we’ve grown into a fast-moving team of engineers, product minds, and builders driven by curiosity and precision. 

We value speed, ownership, and quality, but also team spirit, flexibility, and foresight — our five FoxBase core values that shape how we build, ship, and grow. 

Our customers include some of Europe’s most innovative industrial and technology leaders. Together, we’re redefining what “AI-driven sales” means in highly regulated environments — combining enterprise-grade security with modern AI orchestration. 

Who are we looking for

We’re looking for a Software Engineer AI/RAGwho’s passionate about building production-grade AI systems. Someone who thrives on solving complex technical problems, thinks in systems, and ships solutions that are both elegant and efficient. 

This isn’t just about writing code. It’s about designing the backbone of AI systems that European enterprises can trust. 

What you’ll do
  • Own and evolve our Retrieval-Augmented Generation (RAG) stack – from data ingestion and indexing to LLM integration and feedback loops.
  • Build and optimize pipelines that combine vector databases, embeddings, and re-ranking models for reliable, explainable outputs.
  • Design monitoring and quality assurance frameworks to ensure consistent, measurable AI performance.
  • Collaborate closely with product and development teams to translate business complexity into scalable, maintainable architectures.
  • Manage AWS infrastructure using Terraform and ensure cost-efficient, secure, and highly available deployments.
  • Support our continuous improvement process by experimenting with new models, frameworks, and architectural patterns.
  • Mentor junior engineers and contribute to a culture of learning, responsibility, and craftsmanship
What you’ll bring
  • 2+ years of experience in software engineering — ideally in Python-based SaaS or AI systems.
  • Deep knowledge of LLM and RAG concepts (retrieval pipelines, embeddings, prompt orchestration, evaluation).
  • Solid understanding of PostgreSQL and data modeling; experience with Qdrant is a plus.
  • Hands-on experience with AWS (RDS, S3, Lambda) and Infrastructure as Code (Terraform).
  • Strong debugging and observability mindset, you care about uptime, latency, and real-world performance.
  • Familiarity secure architectures and GDPR-compliant environments.
  • Curiosity and initiative, you love learning, sharing, and applying new concepts to improve our platform.
  • Fluent in English (German is a plus, but not required).
Nice to have
  • Experience building enterprise AI applications (RAG, knowledge bases, LLM integrations).
  • Background in cloud cost optimization, observability (Prometheus, Grafana), or performance engineering.
  • Contributions to open-source AI tools or frameworks.
  • Interest in explainable AI, evaluation pipelines, or model observability tooling.
Our tech stack
  • Backend Framework: 
    • FastAPI for high-performance APIs and services
  • Data Modelling & Validation: 
    • Pydantic and Pydantic-AI for structured LLM interactions and schema enforcement
  • Cloud & Infrastructure:
    • AWS Lambda (serverless microservices) integrated with API Gateway
    • Terraform for infrastructure provisioning and deployment automation
  • Data & Workflow Orchestration: 
    • Apache Airflow for managing and scheduling data pipelines
  • Databases:
    • Qdrant (vector database) for semantic search and RAG systems
    • PostgreSQL for structured relational data
  • Large Language Models: 
    • Integration with multiple LLM providers (OpenAI, Bedrock, etc.) for retrieval-augmented and agentic applications - model-agnostic and vendor-flexible
  • Visualisation & Monitoring:
    • Plotly Dash for interactive dashboards and data visualizations
    • Grafana for system telemetry, metrics, and performance monitoring
Why you’ll love working here
  • Real impact: Your work powers AI systems used by leading European enterprises in chemicals, construction, and machinery.
  • End-to-end ownership: you’ll design, build, and ship your own features, from concept to production.
  • AI that matters: We don’t build hype demos; we build trusted, explainable AI that improves real business decisions.
  • Freedom & flexibility: Work remotely or from our Düsseldorf HQ, we trust you to manage your time.
  • Learning culture: Dedicated budget for conferences, courses, and coaching.
  • Strong team spirit: We meet on a weekly or monthly basis in our Düsseldorf HQ for creative exchange and to stay connected. We take work seriously, but not ourselves — think quiz nights, good music, GeoGuessr, and darts.
  • Compliance & security mindset: Build with peace of mind — in a GDPR and ISO 27001-certified environment.
How we work

At FoxBase, engineers are problem-solvers, not just coders. We build with purpose — connecting data, AI, and people to deliver measurable results.  

We move fast, stay curious, and design with compliance and performance in mind. 
We keep things pragmatic — shipping high-quality, cost-efficient, and scalable solutions while continuously improving the product with measurable increments. 

Our journey so far
  • Built one of the first enterprise-ready RAG frameworks tailored for regulated B2B environments
  • Delivered AI Product Experts for industry leaders in telecomunications, chemicals, and construction
  • Integrated AI quality assurance and feedback loops that keep models explainable and auditable
  • Established a fully GDPR-compliant infrastructure, hosted in the EU and certified to ISO 27001 standards
  • And built a team culture that loves solving hard problems — with good music, quiz nights, and the occasional game of darts.
The next chapter

We’re in a defining moment for AI in B2B sales. Now we’re looking for builders, engineers, and creators who want to shape how businesses sell and support their customers with intelligent, transparent, and controllable AI. 

If you’re ready to build the most reliable AI Sales Platform in Europe, come join us. 

Let’s make complex sales simple together.

Deine Bewerbung
Wir freuen uns über Dein Interesse an FoxBase GmbH. Bitte fülle das folgende kurze Formular aus. Solltest Du Schwierigkeiten mit dem Upload Deiner Daten haben, wende Dich gerne per Email an jobs@foxbase.de.

Dokument wird hochgeladen. Bitte warten Sie.
Fügen Sie alle erforderlichen (mit einem * gekennzeichneten) Angaben hinzu, um Ihre Bewerbung abzusenden.