torben
18ae28f918
Chemenu kompiliert Rohnotizen zu einem verlinkten, quellengebundenen Wiki: raw/ -> types/ + tools/ -> kb/ -> reports/. Was mechanisch ist, macht tools/wikitool; was Urteil braucht, macht ein Agent unter Contracts, deren Grenzen in Code durchgesetzt sind statt im Prompt. Dieser Commit ist der Startpunkt der oeffentlichen Historie. Die vorherige Entwicklung fand in einer privaten Instanz statt und ist nicht Teil dieses Repositorys; ihre Erzaehlung steht vollstaendig in CHANGES.md, das mit 44 Eintraegen von 0.1.0 bis 2.1.0 erhalten geblieben ist. Der mitgelieferte Korpus ist ein Testbett und eine Demo: 170 Seiten ueber den Stack selbst - Gates, Lint, Versionierung, Suche, das Wiki-Muster. Er dokumentiert das Werkzeug mit den eigenen Mitteln des Werkzeugs. Lizenz: AGPL-3.0 fuer den Stack (tools/, types/), CC-BY-4.0 fuer die Inhalte. Die Grenze zwischen beiden ist der Dateiplan, den dist export berechnet - siehe NOTICE.
4.2 KiB
4.2 KiB
type, concept_type, tags, created, modified, related, sources, confidence, confidence_base, provenance, summary
| type | concept_type | tags | created | modified | related | sources | confidence | confidence_base | provenance | summary | ||||||||
|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|---|
| types/concept.md | architecture |
|
2026-07-26 | 2026-08-29 |
|
|
0.90 | 0.90 | sourced | Architekturmuster, bei dem LLMs die Generierung um Dokumente aus einer Wissensbasis anreichern. |
RAG
Typ: Architecture (Retrieval Augmented Generation)
Definition
RAG (Retrieval Augmented Generation) ist ein KI-Architekturmuster, bei dem ein großes Sprachmodell (LLM) relevante Informationen aus einer Knowledge Base abruft, bevor es eine Antwort generiert. Dies ermöglicht dem LLM, Antworten bereitzustellen, die in externen Dokumenten verankert sind, anstatt sich ausschließlich auf seine Trainingsdaten zu verlassen.
Kernpunkte
Wie RAG funktioniert
- Indexierung: Dokumente werden verarbeitet und für die Suche indexiert
- Abruf: Bei jeder Abfrage werden relevante Chunks aus dem Index abgerufen
- Augmentation: Abgerufene Chunks werden zum LLM-Kontext/Prompt hinzugefügt
- Generierung: LLM generiert eine Antwort basierend auf seinem Wissen und den abgerufenen Chunks
Traditionelle RAG-Systeme
Beispiele sind:
- NotebookLM (Google)
- ChatGPT Datei-Uploads (OpenAI)
- Die meisten kommerziellen RAG-Implementierungen
Begrenzungen von traditionellem RAG
Laut dem LLM Wiki Pattern-Artikel:
- Keine Knowledge Accumulation: Wissen wird bei jeder Abfrage von Grund auf neu abgeleitet
- Keine persistente Synthese: Verbindungen zwischen Dokumenten werden nicht aufrechterhalten
- Keine Querverweise: Keine expliziten Links zwischen verwandten Konzepten über Quellen hinweg
- Keine Widerspruchserkennung: Konfliktinformationen werden nicht gekennzeichnet
- Kein Compounding: Das Hinzufügen neuer Quellen baut nicht auf vorherigem Verständnis auf
- Ineffizient für komplexe Abfragen: Subtile Fragen, die eine Synthese mehrerer Dokumente erfordern, müssen jedes Mal neu abgeleitet werden
Wann RAG geeignet ist
- Bei einfachen, einmaligen Fragen
- Für schnelle Informationssuche
- Wenn Persistenz und Compounding nicht erforderlich sind
- Wenn der Aufwand für Wiki-Wartung nicht gerechtfertigt ist
Wann über RAG hinausgehen
Das LLM Wiki Pattern in Betracht ziehen, wenn:
- Wissen im Laufe der Zeit angesammelt werden soll
- Persistente Querverweise benötigt werden
- Widersprüche zwischen Quellen gekennzeichnet werden sollen
- Wissen benötigt wird, das zusammengesetzt wird, wenn neue Quellen hinzugefügt werden
- Komplexe Abfragen, die Multi-Dokument-Synthese erfordern, häufig vorkommen
RAG vs. LLM-Wiki-Pattern
| Aspekt | RAG | LLM-Wiki-Pattern |
|---|---|---|
| Knowledge Accumulation | Nein | Ja |
| Persistente Querverweise | Nein | Ja |
| Widerspruchserkennung | Nein | Ja |
| Knowledge Compounding | Nein | Ja |
| Wartung | Automatisch | LLM-gepflegt |
| Abfrage-Geschwindigkeit | Schnell | Schnell (nach Kompilierung) |
| Setup-Komplexität | Niedrig | Mittel |
| Am besten für | Einmalige Abfragen | Laufende Knowledge Accumulation |
Implementierungen
RAG-Varianten
- Naive RAG: Einfache Ähnlichkeitssuche
- Vector RAG: Embedding-basierter Abruf
- Hybrid RAG: Kombiniert Schlüsselwort- und Vector-Suche
- Graph RAG: Verwendet Knowledge Graphs für Abruf
LLM-Wiki-Pattern als verbessertes RAG
Das LLM Wiki Pattern kann als eine Verbesserung zu RAG angesehen werden, die hinzufügt:
- Persistenz-Schicht (das Wiki)
- Automatische Querverweise
- Widerspruchserkennung
- Knowledge Compounding
- Menschliche Kuratierung in der Schleife
Tools, die RAG verwenden
- NotebookLM
- ChatGPT (mit Datei-Uploads)
- Viele unternehmensweite Knowledge-Management-Systeme
- Verschiedene Open-Source-RAG-Frameworks (LangChain, LlamaIndex, etc.)
Geschichte
- [2020] - Frühe RAG-Papers und -Implementierungen
- [2023] - Kommerzielle RAG-Systeme entstehen (NotebookLM, ChatGPT Datei-Uploads)
- [2023-2024] - LLM-Wiki-Pattern entwickelt als Verbesserung zu RAG
- [2026-07-26] - Konzeptseite erstellt