Embeddings – Die Landkarte der Bedeutung
Nordshop Insights · Enterprise Memory
Nachdem wir uns in den letzten Beiträgen mit Tokens und Chunks beschäftigt haben, geht es heute um einen Begriff, ohne den moderne KI kaum funktionieren würde: Embeddings.
Der Name klingt kompliziert. Das Prinzip dahinter ist es nicht.
Wir Menschen verbinden mit einem Wort sofort eine Bedeutung. Wenn ich „Auto“ sage, entsteht in Ihrem Kopf sofort ein Bild. Eine KI kann das nicht. Sie kennt keine Autos, keine Häuser und keinen Urlaub. Sie kennt zunächst nur Zahlen.
Deshalb übersetzt sie jedes Wort, jeden Satz oder sogar ganze Dokumente in einen Zahlenraum. Diesen Vorgang nennt man Embedding.
Jetzt kommt der spannende Teil.
Die einzelnen Zahlen sind eigentlich völlig uninteressant. Entscheidend ist, wo ein Begriff im Verhältnis zu anderen Begriffen liegt.
Stellen Sie sich eine riesige Landkarte vor. Auf dieser Karte liegen Wörter mit ähnlicher Bedeutung dicht beieinander.
Auto, Fahrzeug, PKW und Elektroauto bilden eine kleine Nachbarschaft. Ein Stück weiter finden wir Fahrrad und Motorrad. Ganz woanders liegen Apfel, Banane oder Klavier.
Die KI erkennt also keine Wörter.
Sie erkennt Abstände zwischen Bedeutungen.
Genau deshalb kann sie auch Fragen beantworten, obwohl die verwendeten Wörter gar nicht identisch mit den Begriffen in einem Dokument sind.
Fragt jemand nach einem Dienstwagen, findet die KI möglicherweise trotzdem Informationen über Firmenfahrzeuge. Nicht, weil beide Wörter gleich sind. Sondern weil ihre Bedeutungen auf dieser unsichtbaren Landkarte eng beieinanderliegen.
Und genau hier liegt einer der größten Unterschiede zwischen einer klassischen Suchmaschine und moderner KI.
Eine Suchmaschine sucht nach Wörtern. Eine KI sucht nach Bedeutung.
Das macht moderne Wissenssysteme so leistungsfähig – egal ob im Kundenservice, in Unternehmen oder bei der Suche durch tausende Dokumente.
Embeddings sind die Landkarte der Bedeutungen. KI versteht keine Wörter – sie erkennt ihre Beziehungen.
Im nächsten Beitrag geht es um das Kontextfenster (Context Window).
Dort schauen wir uns an, warum eine KI zwar unglaublich viel Wissen besitzt, aber trotzdem nicht unbegrenzt „im Kopf behalten“ kann, worüber wir gerade sprechen.