torben
18ae28f918
Chemenu kompiliert Rohnotizen zu einem verlinkten, quellengebundenen Wiki: raw/ -> types/ + tools/ -> kb/ -> reports/. Was mechanisch ist, macht tools/wikitool; was Urteil braucht, macht ein Agent unter Contracts, deren Grenzen in Code durchgesetzt sind statt im Prompt. Dieser Commit ist der Startpunkt der oeffentlichen Historie. Die vorherige Entwicklung fand in einer privaten Instanz statt und ist nicht Teil dieses Repositorys; ihre Erzaehlung steht vollstaendig in CHANGES.md, das mit 44 Eintraegen von 0.1.0 bis 2.1.0 erhalten geblieben ist. Der mitgelieferte Korpus ist ein Testbett und eine Demo: 170 Seiten ueber den Stack selbst - Gates, Lint, Versionierung, Suche, das Wiki-Muster. Er dokumentiert das Werkzeug mit den eigenen Mitteln des Werkzeugs. Lizenz: AGPL-3.0 fuer den Stack (tools/, types/), CC-BY-4.0 fuer die Inhalte. Die Grenze zwischen beiden ist der Dateiplan, den dist export berechnet - siehe NOTICE.
114 lines
4.2 KiB
Markdown
114 lines
4.2 KiB
Markdown
---
|
|
type: types/concept.md
|
|
concept_type: architecture
|
|
tags: [ai, retrieval, generation, knowledge-management]
|
|
created: 2026-07-26
|
|
modified: 2026-08-29
|
|
related: [LLM Wiki Pattern, NotebookLM, ChatGPT]
|
|
sources: [Source - LLM Wiki Pattern]
|
|
confidence: 0.90
|
|
confidence_base: 0.90
|
|
provenance: sourced
|
|
summary: Architekturmuster, bei dem LLMs die Generierung um Dokumente aus einer Wissensbasis anreichern.
|
|
---
|
|
# RAG
|
|
|
|
**Typ:** Architecture (Retrieval Augmented Generation)
|
|
|
|
## Definition
|
|
|
|
RAG (Retrieval Augmented Generation) ist ein KI-Architekturmuster, bei dem ein großes Sprachmodell (LLM) relevante Informationen aus einer Knowledge Base abruft, bevor es eine Antwort generiert. Dies ermöglicht dem LLM, Antworten bereitzustellen, die in externen Dokumenten verankert sind, anstatt sich ausschließlich auf seine Trainingsdaten zu verlassen.
|
|
|
|
## Kernpunkte
|
|
|
|
### Wie RAG funktioniert
|
|
|
|
1. **Indexierung**: Dokumente werden verarbeitet und für die Suche indexiert
|
|
2. **Abruf**: Bei jeder Abfrage werden relevante Chunks aus dem Index abgerufen
|
|
3. **Augmentation**: Abgerufene Chunks werden zum LLM-Kontext/Prompt hinzugefügt
|
|
4. **Generierung**: LLM generiert eine Antwort basierend auf seinem Wissen und den abgerufenen Chunks
|
|
|
|
### Traditionelle RAG-Systeme
|
|
|
|
Beispiele sind:
|
|
- [[NotebookLM]] (Google)
|
|
- [[ChatGPT]] Datei-Uploads (OpenAI)
|
|
- Die meisten kommerziellen RAG-Implementierungen
|
|
|
|
### Begrenzungen von traditionellem RAG
|
|
|
|
Laut dem [[LLM Wiki Pattern]]-Artikel:
|
|
|
|
1. **Keine Knowledge Accumulation**: Wissen wird bei jeder Abfrage von Grund auf neu abgeleitet
|
|
2. **Keine persistente Synthese**: Verbindungen zwischen Dokumenten werden nicht aufrechterhalten
|
|
3. **Keine Querverweise**: Keine expliziten Links zwischen verwandten Konzepten über Quellen hinweg
|
|
4. **Keine Widerspruchserkennung**: Konfliktinformationen werden nicht gekennzeichnet
|
|
5. **Kein Compounding**: Das Hinzufügen neuer Quellen baut nicht auf vorherigem Verständnis auf
|
|
6. **Ineffizient für komplexe Abfragen**: Subtile Fragen, die eine Synthese mehrerer Dokumente erfordern, müssen jedes Mal neu abgeleitet werden
|
|
|
|
### Wann RAG geeignet ist
|
|
|
|
- Bei einfachen, einmaligen Fragen
|
|
- Für schnelle Informationssuche
|
|
- Wenn Persistenz und Compounding nicht erforderlich sind
|
|
- Wenn der Aufwand für Wiki-Wartung nicht gerechtfertigt ist
|
|
|
|
### Wann über RAG hinausgehen
|
|
|
|
Das [[LLM Wiki Pattern]] in Betracht ziehen, wenn:
|
|
- Wissen im Laufe der Zeit angesammelt werden soll
|
|
- Persistente Querverweise benötigt werden
|
|
- Widersprüche zwischen Quellen gekennzeichnet werden sollen
|
|
- Wissen benötigt wird, das zusammengesetzt wird, wenn neue Quellen hinzugefügt werden
|
|
- Komplexe Abfragen, die Multi-Dokument-Synthese erfordern, häufig vorkommen
|
|
|
|
## RAG vs. LLM-Wiki-Pattern
|
|
|
|
| Aspekt | RAG | LLM-Wiki-Pattern |
|
|
|--------|-----|-------------------|
|
|
| Knowledge Accumulation | Nein | Ja |
|
|
| Persistente Querverweise | Nein | Ja |
|
|
| Widerspruchserkennung | Nein | Ja |
|
|
| Knowledge Compounding | Nein | Ja |
|
|
| Wartung | Automatisch | LLM-gepflegt |
|
|
| Abfrage-Geschwindigkeit | Schnell | Schnell (nach Kompilierung) |
|
|
| Setup-Komplexität | Niedrig | Mittel |
|
|
| Am besten für | Einmalige Abfragen | Laufende Knowledge Accumulation |
|
|
|
|
## Implementierungen
|
|
|
|
### RAG-Varianten
|
|
- Naive RAG: Einfache Ähnlichkeitssuche
|
|
- Vector RAG: Embedding-basierter Abruf
|
|
- Hybrid RAG: Kombiniert Schlüsselwort- und Vector-Suche
|
|
- Graph RAG: Verwendet Knowledge Graphs für Abruf
|
|
|
|
### LLM-Wiki-Pattern als verbessertes RAG
|
|
Das [[LLM Wiki Pattern]] kann als eine Verbesserung zu RAG angesehen werden, die hinzufügt:
|
|
- Persistenz-Schicht (das Wiki)
|
|
- Automatische Querverweise
|
|
- Widerspruchserkennung
|
|
- Knowledge Compounding
|
|
- Menschliche Kuratierung in der Schleife
|
|
|
|
## Tools, die RAG verwenden
|
|
|
|
- [[NotebookLM]]
|
|
- [[ChatGPT]] (mit Datei-Uploads)
|
|
- Viele unternehmensweite Knowledge-Management-Systeme
|
|
- Verschiedene Open-Source-RAG-Frameworks (LangChain, LlamaIndex, etc.)
|
|
|
|
## Geschichte
|
|
|
|
- [2020] - Frühe RAG-Papers und -Implementierungen
|
|
- [2023] - Kommerzielle RAG-Systeme entstehen (NotebookLM, ChatGPT Datei-Uploads)
|
|
- [2023-2024] - LLM-Wiki-Pattern entwickelt als Verbesserung zu RAG
|
|
- [2026-07-26] - Konzeptseite erstellt
|
|
|
|
## Siehe auch
|
|
|
|
- [[LLM Wiki Pattern]]
|
|
- [[Knowledge Compounding]]
|
|
- [[NotebookLM]]
|
|
- [[ChatGPT]]
|