Technique Aktualisiert 2026-04
Embedding
Definition
Ein Embedding ist eine numerische Darstellung (Vektor) von Text oder Daten, die deren semantische Bedeutung erfasst.
Siehe auch im Glossar
V
Vektordatenbank
Eine Vektordatenbank speichert Embeddings für semantische Suche und RAG in großem Maßstab.
R
RAG (Retrieval-Augmented Generation)
RAG ist eine Technik, die ein LLM mit externen Datenquellen verbindet, um präzisere und aktuellere Antworten zu generieren.
L
LLM (Large Language Model)
Ein LLM ist ein KI-Modell, das auf Milliarden von Texten trainiert wurde und in der Lage ist, menschliche Sprache zu verstehen und zu generieren.
N
NLP (Natural Language Processing)
NLP ist das KI-Fachgebiet, das Maschinen in die Lage versetzt, menschliche Sprache zu verstehen, zu interpretieren und zu generieren.
Tools, die embedding verwenden
Häufig gestellte Fragen
Wofür werden Embeddings verwendet?
Sie messen die semantische Ähnlichkeit zwischen Texten. Zwei Sätze mit derselben Bedeutung haben ähnliche Vektoren. Es ist die Grundlage von RAG.
Sind Embeddings und Tokens dasselbe?
Nein. Ein Token ist Rohtext. Ein Embedding ist dessen Übersetzung in einen numerischen Vektor im mathematischen Raum.
Was ist ein Embedding, einfach erklärt?
Ein Embedding wandelt Text, ein Bild oder andere Daten in eine Zahlenliste (einen Vektor) um, die deren Bedeutung erfasst. Inhalte mit ähnlicher Bedeutung liegen in diesem Vektorraum nah beieinander, sodass eine Maschine sie mathematisch vergleichen kann. So erkennt eine KI, dass "Auto" und "Wagen" verwandt sind, obwohl die Wörter verschieden sind.
Was genau ist ein Word Embedding?
Ein Word Embedding ist ein Vektor, der die Bedeutung eines einzelnen Wortes darstellt, gelernt aus dessen Vorkommen in großen Textmengen. Frühe Modelle wie Word2Vec und GloVe erzeugten einen festen Vektor pro Wort. Moderne Systeme nutzen kontextuelle Embeddings, bei denen dasselbe Wort je nach umgebendem Satz einen anderen Vektor erhält.
Was ist ein Beispiel für ein Embedding?
Die semantische Suche ist das klassische Beispiel. Man wandelt eine Anfrage wie "wie setze ich mein Passwort zurück" und einen Hilfeartikel in Vektoren um und ruft dann den Artikel ab, dessen Vektor am nächsten liegt. Derselbe Mechanismus treibt RAG-Pipelines, Produktempfehlungen und Dublettenerkennung an. Tools wie Perplexity und NotebookLM nutzen Embeddings, um relevante Passagen zu finden, bevor sie antworten.
Wie wird ein Embedding erstellt?
Ein auf großen Datensätzen trainiertes neuronales Netz wandelt jede Eingabe in einen Vektor um, meist mit einigen Hundert bis einigen Tausend Zahlen. In der Praxis rufen Sie ein Embedding-Modell auf, etwa text-embedding-3 von OpenAI, Cohere Embed oder ein Open-Source-Modell von Hugging Face, und es liefert den Vektor für jeden gesendeten Text zurück. Manuelles Feature-Engineering ist nicht nötig.
Wo werden Embeddings gespeichert?
Embeddings werden in der Regel in einer Vektordatenbank wie Pinecone, Weaviate, Qdrant oder pgvector abgelegt. Diese Systeme indizieren Millionen von Vektoren und führen schnelle Nächste-Nachbarn-Suchen durch, um die ähnlichsten Elemente in Millisekunden zurückzugeben. Eine Vektordatenbank ist die Standard-Speicherschicht hinter semantischer Suche und RAG-Anwendungen.
Können Embeddings auch Bilder und Audio darstellen?
Ja. Dasselbe Prinzip gilt für Bilder, Audio und Video. Multimodale Modelle wie CLIP platzieren Bilder und Text in einem gemeinsamen Vektorraum, sodass eine Textanfrage passende Bilder abrufen kann. Das ermöglicht Funktionen wie die "Suche per Beschreibung" und Werkzeuge zur Bildähnlichkeit in modernen KI-Produkten.
Wie misst man die Ähnlichkeit zwischen zwei Embeddings?
Die häufigste Metrik ist die Kosinus-Ähnlichkeit, die den Winkel zwischen zwei Vektoren unabhängig von ihrer Länge misst. Ein Wert nahe 1 bedeutet, dass die Elemente in der Bedeutung nahezu identisch sind, ein Wert nahe 0 bedeutet, dass sie nichts miteinander zu tun haben. Je nach Modell und Vektordatenbank werden auch euklidische Distanz und Skalarprodukt verwendet.
