Fachwissen für digitale Entscheidungen
Feinabstimmung oder RAG – was ist der richtige Weg?
Kurzantwort
Der Unterschied
RAG. Vor dem Antworten wird in Ihren Dokumenten gesucht, die passenden Abschnitte werden mitgegeben. Das Modell bleibt unverändert.
Feinabstimmung. Das Modell wird mit Beispielen weitertrainiert und ändert sich dauerhaft.
Warum RAG für Wissen besser ist
| RAG | Feinabstimmung | |
|---|---|---|
| Neue Information | Dokument hinzufügen | Neuer Trainingslauf |
| Quellenangabe | Möglich | Nicht möglich |
| Rechte je Dokument | Möglich | Nicht möglich |
| Falsche Angabe entfernen | Dokument löschen | Aufwendig |
| Kosten | Gering | Deutlich höher |
Die Quellenangabe ist der entscheidende Punkt: Ein feinabgestimmtes Modell kann nicht sagen, woher es etwas weiss. Für geschäftliche Auskünfte ist das ein Ausschlusskriterium.
Wofür Feinabstimmung sinnvoll ist
- Ein bestimmter Ton oder Stil, den Anweisungen nicht zuverlässig erzeugen
- Ein festes Ausgabeformat
- Eine sehr spezielle Fachsprache
- Kostensenkung: Ein kleineres, abgestimmtes Modell kann ein grösseres ersetzen
Die häufigste Fehlannahme
„Wir trainieren das Modell mit unseren Handbüchern, dann kennt es unsere Produkte." So funktioniert es nicht zuverlässig. Feinabstimmung prägt Verhalten, nicht Faktenwissen – und was das Modell dabei aufnimmt, lässt sich weder prüfen noch gezielt korrigieren.
Empfehlung
Mit RAG beginnen. Feinabstimmung erst erwägen, wenn RAG funktioniert und ein konkretes Stil- oder Kostenproblem bleibt.
Kernfakten
- Für Faktenwissen
- RAG
- Für Stil und Format
- Feinabstimmung
- Entscheidender Vorteil von RAG
- Quellenangabe möglich
Quellen
Alle externen Angaben nachvollziehbar belegt.-
01
Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks Lewis et al. / arXiv