Technische Übersicht

Dieses Projekt nutzt Open WebUI als zentrale Oberfläche. Darüber werden die verschiedenen Funktionen der Plattform gebündelt, sodass Chat, Modellzugriffe und unterstützende Dienste in einer gemeinsamen Benutzeroberfläche verfügbar sind. Die Anbindung der KI-Dienste erfolgt über die API von KI:connect, die als zentrale Schnittstelle für den Zugriff auf verbundene Modellendpunkte genutzt werden kann.

KI-Modelle

Für die Textverarbeitung wird in diesem Projekt OpenAI gpt-oss-120b als Chat-Modell verwendet. Das Modell gehört zur gpt-oss-Familie von OpenAI und ist für allgemeine, leistungsstarke Text- und Reasoning-Aufgaben ausgelegt.

Zur Verbesserung der Suchqualität wird zusätzlich Cohere Rerank v4.0 Pro eingesetzt. Dieses Modell ist über Microsoft Azure AI Foundry verfügbar und dient dazu, Suchtreffer oder Dokumentabschnitte nach Relevanz neu zu ordnen.

Alle angebundenen Modelle und Dienste sind in Open WebUI zusammengeführt, sodass die Nutzung für Anwenderinnen und Anwender über eine einheitliche Oberfläche erfolgt.

Websuche und Playwright

Für die Websuche kann eine Meta-Suchlösung wie SearXNG verwendet werden. SearXNG bündelt Ergebnisse aus mehreren Suchmaschinen und stellt sie in einer einheitlichen Suche bereit.

Playwright ergänzt diesen Bereich, indem Webseiten in einem echten Browserkontext geladen und gerendert werden können. Dadurch lassen sich auch dynamische, JavaScript-basierte Inhalte zuverlässiger erfassen. Playwright unterstützt dabei moderne Browser-Engines wie Chromium, WebKit und Firefox.