Stellenbeschreibung

Für unseren Kunden suchen wir einen KI-Berater (w/m/d) für Chatbots auf Basis von OpenSource-Lösungen und mit Behördenerfahrung.

Rahmendaten:
Start: 01.06.2026
Laufzeit: 31.12.2026
Auslastung: ca. 55PT
Einsatzort: Leipzig, 90% remote

Ziel:
Es sollen Beratungsleistungen bei der Einrichtung einer modularen KI-Plattform mit einem Code Assistent beauftragt werden.
Ziel ist es, durch einen sicheren, datenschutzkonformen Betrieb die Grundlage zu schaffen, um ein internes, hochverfügbares KI-System für Entwickler und perspektivisch auch für Fachbereiche des Kunden anbieten zu können.
Die angestrebte modulare Softwareinfrastruktur soll einen Mehrwert für KI-Anwendungsfälle in Form eines Coding-Assistenten bieten.
Es soll eine souverän und vollständig lokal betriebene KI-Plattform eingeführt werden. Sie umfasst in einem ersten Entwicklungsstand einen Coding Assistenten, welcher sich als Plugin in die Entwicklungsumgebungen (mindestens IntelliJ und VSCode und gegebenenfalls Eclipse) einbinden lassen sollen.
Es kann in diesem Rahmen zudem auch ein Chatassistent eingebaut werden,
welcher eine webbasierte Benutzeroberfläche hat.
Die Plattform soll hierbei rein auf Open Source Softwarelösungen setzen.

Skills:
- Erfahrung im Bereich der KI-Infrastruktur für einen On Premise Coding Assistenten in einem regulierten Umfeld auf Basis von Open-Source-Technologie
- Erfahrung im Aufbau einer vollständig modularen KI-Plattform, welche aus freien/Open-Source Produkten aufgebaut wurde und die Installation und die Einrichtung selbst und auf einer On Premise Umgebung erfolgten
- Erfahrung im Aufbau eines Chat-Assistenten mit einem webbasierten
User-Interface (UI) (Open-Source, on-prem)
- Rollen- und Rechtekonzept in einem Code Assistant
- Kenntnis verschiedener LLMs und Einbindung verschiedener LLMs in das Chatinterface
-  Infrastructure as Code (IaC) im Zusammenhang mit der KI-Plattform
- Projekterfahrung im öffentlichen Sektor
- Red Hat Enterprise Linux (RHEL) mit Podman