Prompting mit Knowledge Graphen: Wie Du hochgenaue, erklärbare KI-Antworten bekommst

Dr. Sebastian Goeser von der Textverstehen GmbH hat gezeigt, wie Knowledge Graphen KI-Antworten präzise, überprüfbar und auch mit kleineren Modellen möglich machen.

Ein regelmäßiges Fünfeck mit den Ecken A bis E. Was ist der kürzeste Weg von A nach D? Klingt nach Grundschulgeometrie, und trotzdem antwortet ein großes Sprachmodell meistens: direkt über die Kante A–D. Die gibt es nur leider nicht. Mit diesem kleinen Test hat Dr. Sebastian Goeser, Geschäftsführer der Textverstehen GmbH aus Stuttgart, sein Thema eröffnet. Sein Punkt: Dem Modell fehlt eine echte Repräsentation des Fünfecks. Und genau diese Lücke füllen Knowledge Graphen.

Das LLM als Übersetzer, nicht als Wissensquelle

Ein Knowledge Graph ist im Kern eine riesige Sammlung von Aussagen nach dem Muster Subjekt, Eigenschaft, Objekt. Beim Prompting werden passende Aussagen aus dem Graphen an die Frage gehängt, sie wirken laut Sebastian wie eine Schiene, auf der die Antwort entlangläuft. Das Sprachmodell muss dann vor allem eines: Strukturierte Fakten in natürliche Sprache übersetzen.

Der Nebeneffekt hat es in sich. Weil das Wissen im Graphen steckt und nicht im Modell, braucht man keine riesigen Modelle aus Übersee. In der Demo lief alles über ein Modell von Mistral. Und wenn der Graph nichts Passendes liefert, wie bei der Frage nach einer Wandleuchte aus Stroh, die es im Katalog schlicht nicht gibt, kommt eben ein ehrliches Nein statt einer erfundenen Antwort.

Wann sich der Aufwand lohnt

Nicht jeder Anwendungsfall braucht einen Knowledge Graph, vieles lässt sich mit klassischem RAG gut lösen. Spannend wird es bei stark strukturierten Domänen mit heterogenen Daten aus verschiedenen Formaten, Teams und Quellen. Und bei einem Punkt, der oft übersehen wird: Daten ändern sich ständig. In einem Modell oder einem RAG-Bestand ist das mühsam nachzuziehen, ein Knowledge Graph ist dagegen eine Datenbank und damit jederzeit änderbar.

Schneeschaufeln, kumulativ oder distributiv

Für die Demo hatte Sebastian einen Graphen aus einem Produktkatalog gebaut: 1.000 Artikel aus einem Tiroler Webshop, viel Holz, viel Werkzeug, am Ende rund 14.700 Aussagen. Daran zeigte er verschiedene Prompting-Stile. Der Unterschied wurde bei der Frage „Was für Schneeschaufeln haben Sie?“ greifbar: Der kumulative Stil wirft die Aussagen aller passenden Produkte zusammen und liefert einen Überblick. Der distributive Stil schaut sich jedes Produkt einzeln an und unterscheidet sauber zwischen der Alu-Schaufel fürs Auto und dem praktischen Zweierset.

Die Faustregel: Kumulativ für den Überblick, distributiv, wenn es um die Eigenschaften einzelner Produkte geht oder der Graph so viele Treffer liefert, dass das Modell sonst überladen wäre.

Woher weiß die KI das eigentlich?

Das vielleicht wichtigste Feature heißt Reifikation: Jede Aussage im Graphen ist selbst wieder ein Objekt und lässt sich bis zu dem Textstück zurückverfolgen, aus dem sie stammt. Etwa die automatisch extrahierte Aussage „Insektenhotel hat zu tun mit Umweltschutz“. Sebastians trockener Kommentar dazu: „Wer wollte das bestreiten?“ Für erklärbare Antworten ist diese Rückverfolgbarkeit Gold wert.

Live gezeigt hat er auch, wie so ein Graph entsteht: Ein kleines XML-Dokument rein, KI-gestütztes Mapping drüber, grammatische Analyse und Abgleich mit Wikidata. Heraus kamen 69 Aussagen aus einem einzigen kurzen Dokument. Kommt eine neue Aussage hinzu, die anderen widerspricht, wird sie als Konflikt markiert und im Zweifel beim Kunden nachgefragt.

Der eigentliche Einsatzbereich liegt übrigens weit jenseits von Schneeschaufeln: Auf weitere Use-Cases angesprochen, berichtet Sebastian von einem Maschinenbauer mit komplexen Produkten, dessen Informationen über Datenbanken, PDFs und Webseiten verstreut sind. Dazu kommt noch ein Projekt zur Objekterkennung in Bildern.

Du möchtest genauer verstehen, wie Knowledge Graphen funktionieren? Schau dir die Erklärung und die Demonstration in der Aufzeichnung an.

Jetzt anmelden um die Aufzeichnung zu sehen