Open-Source-Chatbot, entwickelt mit NextJS 14, unterstützt durch OpenAI/LocalAI/HF Inference API, QDrant & LangChainJS.
Features · Modellanbieter · Lokale Nutzung
zum Bundesrechenzentrum (BRZ) oder zu anderen staatlichen Einrichtungen.
- Echtzeit-Zugriff auf die BRZ-Jobs-Website.
- Bereitstellung von Kontextinformationen von der offiziellen BRZ-Website.
- Unterstützung für mehrere AI-Modelle: OpenAI (Standard), LocalAI, Ollama, Hugging Face**.
- Keine Datenbank erforderlich: Alle Daten (Chats, Einstellungen) werden lokal im LocalStorage gespeichert.
- Zugriff auf über 6000 referenzierbare Vektoren, basierend auf der BRZ-Website.
Hinweis: Das Modell muss mit OpenAI Function Calling kompatibel sein.
Standardmäßig ist GPT-3.5-Turbo als AI-Modell eingestellt. Es ist jedoch möglich das Modell durch folgende Einstellungen zu ändern.
- API-Server-URL unter
Dashboard -> Einstellungen -> API Server URL
- Modellname unter
Dashboard -> Einstellungen -> Modell Name
Wichtig: Um alle Funktionen des Chatbots vollständig nutzen zu können, muss das gewählte Modell OpenAI Function Calling unterstützen.
Befolge diesen Schritte, um den Chatbot lokal zu nutzen:
- Repository klonen:
git clone https://github.com/Julian-AT/brz-chatbot
oder als ZIP herunterladen und extrahieren. - Ins Verzeichnis wechseln und
npm install
ausführen. - Environment-Variablen setzen: Alle erforderlichen Variablen sind in
.env.example
. - Server starten: Mit dem Befehl
npm run dev
starten. - Zugriff auf die App: Die App ist nun unter localhost:3000 erreichbar.
Achtung: Die
.env
-Datei sollte niemals in einem öffentlichen Repository veröffentlicht werden.