Fine-Tuning, RAG Oder Prompting: Was Was Kostet

Die Frage Fine-Tuning gegen RAG erreicht uns selten als Frage. Sie kommt als Feststellung: Wir müssen ein Modell auf unseren Daten trainieren. Das ist einer der teuersten Sätze der Unternehmens-KI, und meistens ist er falsch. Nicht immer, aber meistens. Dahinter steckt fast immer eine von zwei Beschwerden: Das Modell kennt unser Geschäft nicht, oder das Modell antwortet nicht so, wie wir es haben wollen. Für das erste Problem ist Fine-Tuning eine schlechte Lösung, für das zweite eine teure.

Die Wahl zwischen Fine-Tuning, RAG und Prompting ist keine technische Geschmacksfrage. Jeder der drei Ansätze behebt eine andere Kategorie von Problem, und wer den falschen greift, produziert Monate an Arbeit, die die eigentliche Beschwerde gar nicht berührt.

Die Regel, die am meisten Geld spart: Wenn das Problem darin besteht, dass das Modell etwas nicht weiß, nehmen Sie Retrieval. Wenn das Modell es weiß, aber im falschen Stil, Format oder in falscher Länge antwortet, verbessern Sie zuerst den Prompt und ziehen Fine-Tuning erst in Betracht, falls das scheitert. Fine-Tuning lehrt Verhalten und keine Fakten, und Teams, die es zum Einspeisen von Wissen benutzen, bekommen ein Modell, das sich in einem neuen Hausstil selbstbewusst irrt.

Fine-Tuning gegen RAG gegen Prompting: was jeder Ansatz leistet

Die Unterscheidung ist einfacher, als die Debatte vermuten lässt.

Prompting ändert die Anweisungen, die Sie mit jeder Anfrage mitschicken. Es formt Tonfall, Format, Struktur und die Art des Vorgehens, und es kann eine überschaubare Menge Kontext direkt mitliefern. Es wirkt sofort, kostet nichts außer den Tokens und lässt sich im laufenden Produktivbetrieb in Sekunden ändern.

Retrieval holt zum Zeitpunkt der Anfrage passendes Material aus Ihren eigenen Inhalten und legt es in den Kontext, bevor das Modell antwortet. Damit bekommt das Modell Zugang zu Informationen, auf die es nie trainiert wurde, einschließlich Dingen, die sich heute Morgen geändert haben. Das Modell selbst bleibt unverändert; Sie verbessern lediglich das Material, mit dem es arbeiten darf. Unsere Erklärung zu Retrieval Augmented Generation beschreibt die Mechanik im Detail.

Fine-Tuning passt die Gewichte des Modells anhand von Beispielen für das gewünschte Verhalten an. Es ist wirklich gut darin, ein konsistentes Format, einen bestimmten Ton und aufgabenspezifische Muster zu vermitteln, die sich schwer in Worte fassen, aber leicht vorführen lassen. Für Fakten taugt es wenig, denn so gelerntes Wissen lässt sich weder aktualisieren noch prüfen noch belegen, und das Modell hat keine Möglichkeit, Ihnen zu signalisieren, wann es sich fälschlich darauf stützt.

Die Verwirrung entsteht, weil alle drei Ansätze die Ausgabe verändern. Nur Retrieval verändert, was das Modell weiß.

Was jeder Ansatz kostet

Die Zahlen entsprechen einer typischen Umsetzung im Vereinigten Königreich für eine mittelgroße Unternehmensanwendung.

Prompting. Tage statt Wochen, typischerweise 1.000 bis 5.000 Pfund, einschließlich des Evaluierungssets, das Sie parallel dazu aufbauen sollten. Der laufende Aufwand ist schlicht das, was die Tokens kosten; ein längerer System-Prompt hebt ihn leicht an, und Prompt-Caching gleicht das weitgehend wieder aus.

Retrieval. Vier bis zwölf Wochen, üblicherweise 15.000 bis 60.000 Pfund, je nachdem, wie unordentlich die Quellinhalte sind. Der Aufbau steckt größtenteils in der Ingestion: Dokumente aus den Systemen holen, die sie festhalten, sie sinnvoll in Abschnitte schneiden, Berechtigungen so abbilden, dass Nutzer nur abrufen, was sie sehen dürfen, und den Index aktuell halten. Im Betrieb kommen Vektorspeicher und ein etwas größerer Kontext bei jeder Anfrage hinzu.

Fine-Tuning. Zwei bis acht Wochen Engineering plus Datensatz, üblicherweise 20.000 bis 80.000 Pfund. Die Rechenzeit für das Training ist meist der kleinste Posten; der eigentliche Aufwand liegt darin, mehrere hundert bis mehrere tausend hochwertige Beispiele zu erzeugen, und das ist Handarbeit von Menschen, die die Fachdomäne wirklich kennen. Auch der Betrieb kann teurer ausfallen, weil ein fein abgestimmtes Modell oft einen Aufschlag trägt oder dediziertes Hosting verlangt.

Die Asymmetrie ist der springende Punkt. Prompting ist billig genug, um es zuerst zu versuchen, selbst wenn Sie ziemlich sicher sind, dass es nicht reichen wird: Das Evaluierungsgerüst brauchen Sie ohnehin, und Sie lernen dabei, worin der tatsächliche Fehlermodus besteht.

Die Reihenfolge, in der Sie es versuchen sollten

Diese Schritte der Reihe nach durchzugehen kostet weniger, als gleich ans Ende zu springen, selbst wenn Sie am Ende doch dort landen.

Beginnen Sie mit dem Evaluierungsset. Dreißig bis hundert echte Eingaben mit bekannt guten Ausgaben. Ohne dieses Fundament können Sie nicht feststellen, ob eine Änderung geholfen hat, und jede weitere Entscheidung ist nur noch Raten. Das ist dasselbe Prüfgerüst, das unser Leitfaden zur OpenAI-API-Integration beschreibt.

Dann verbessern Sie den Prompt. Werden Sie beim Format konkret, geben Sie ein paar Beispiele guter Ausgaben direkt mit, und sagen Sie ausdrücklich, was zu tun ist, wenn die Antwort nicht bekannt ist. Ein überraschend großer Teil der Klagen, das Modell sei einfach nicht gut genug, erledigt sich schon hier, insbesondere bei Wortfülle und Struktur.

Dann probieren Sie ein größeres oder ein anderes Modell. Das ist häufig billiger als jede Anpassungsarbeit und an einem Nachmittag zu bewerten. Unser Leitfaden zum Wechsel weg von OpenAI zeigt, wie Sie diesen Vergleich sauber aufsetzen.

Dann ergänzen Sie Retrieval, wenn das Problem beim Wissen liegt. Wenn das Modell Fragen zu Ihren Produkten, Richtlinien oder Dokumenten falsch beantwortet oder die Antwort verweigert, ist das der Schritt, der es behebt.

Dann erwägen Sie Fine-Tuning, wenn das Problem beim Verhalten liegt. Inzwischen haben Sie ein Evaluierungsset, einen abgestimmten Prompt und, wo es passt, eine Retrieval-Pipeline. Wenn die Ausgabe in Stil oder Struktur immer noch nicht trifft und Sie das gewünschte Verhalten in hunderten Beispielen leichter vorführen als beschreiben können, ist Fine-Tuning das richtige Werkzeug.

Die meisten Projekte hören bei Schritt drei oder vier auf. Genau darin liegt die Ersparnis.

Wann Fine-Tuning wirklich gewinnt

Es gibt echte Fälle, und sie pauschal abzutun wäre genauso falsch, wie zuerst danach zu greifen.

Konsistente strukturierte Ausgaben in großem Maßstab. Wenn jede Antwort einem starren Format folgen muss, das sich im Prompt nur mühsam spezifizieren lässt, liefert ein fein abgestimmtes Modell dieses Format zuverlässiger und mit weit weniger Eingabe-Tokens, was sich bei hohem Volumen von selbst trägt.

Ein spezialisierter Ton oder ein Fachregister. Juristische Entwürfe, klinische Notizen, regulierte Finanzkommunikation: Stile mit starken Konventionen, die Fachleute sofort erkennen und die sich in Anweisungen kaum vollständig einfangen lassen.

Klassifikation mit feinen, schwer artikulierbaren Grenzen. Wenn Ihr Team Beispiele konsistent auszeichnen, die Regel dahinter aber nicht formulieren kann, ist genau das der Zweck des Trainierens an Beispielen.

Kostensenkung bei hohem Volumen. Ein kleineres, fein abgestimmtes Modell, das ein größeres Allzweckmodell in einer eng umrissenen Aufgabe einholt, senkt die Kosten pro Anfrage erheblich. Sinnvoll wird das erst oberhalb eines Volumens, bei dem die Ersparnis den Aufbau und die Pflege übersteigt.

Der gemeinsame Nenner ist Verhalten, nicht Wissen. Wenn Sie in einem Absatz sagen können, was Sie wollen, prompten Sie es. Wenn Sie es nur zeigen können, trainieren Sie es.

Die Kosten, die niemand ausweist

Drei laufende Lasten fehlen in Fine-Tuning-Kalkulationen regelmäßig.

Der Datensatz altert. Ihr fein abgestimmtes Modell spiegelt die Beispiele, die es gesehen hat. Ändern sich Produkte, Richtlinien oder der Hausstil, sind die Beispiele veraltet, und das Modell produziert das alte Verhalten unbeirrt weiter. Planen Sie regelmäßiges Nachtrainieren als Dauerposten ein, nicht als einmalige Ausgabe.

Sie sind an ein Basismodell gebunden. Fine-Tuning hängt an einer bestimmten Version. Wird diese Basis abgekündigt oder erscheint ein besseres Modell, müssen Sie für den Umzug neu trainieren. Das sind reale Wechselkosten, die ein Prompt schlicht nicht hat.

Evaluierung wird zur Pflicht statt zur Kür. Beim Prompting erkennen Sie einen Rückschritt oft mit bloßem Auge. Bei einem fein abgestimmten Modell können Sie nicht nachsehen, warum sich das Verhalten geändert hat, und das Evaluierungsgerüst bleibt damit das einzige Instrument, das Ihnen zur Verfügung steht.

Retrieval hat ein kleineres Gegenstück: Der Index muss aktuell bleiben, die Berechtigungen müssen korrekt bleiben, wenn Menschen ihre Rolle wechseln, und jemand muss merken, wenn die Ingestion still stehen bleibt. Billiger als Nachtrainieren, aber nicht umsonst.

Erst die Diagnose, dann der Aufbau

Mecanik baut Retrieval-Systeme, Evaluierungsgerüste und Fine-Tuning-Pipelines im Rahmen unserer KI-Integrationsleistungen , und wir beginnen jedes Projekt damit, festzustellen, welches der drei Probleme Sie tatsächlich haben.

Diese Diagnose ist meist ein kurzes Mandat, und sie endet häufig mit einer Empfehlung, die Sie weit weniger kostet als das Projekt, das Sie ursprünglich geplant hatten. Wo Fine-Tuning wirklich die richtige Antwort ist, sagen wir das auch und kalkulieren die Datensatzarbeit ehrlich, denn genau dieser Teil entscheidet über Erfolg oder Misserfolg. Für das größere Budgetbild trennt unser Leitfaden zu den Kosten der KI-Integration Aufbau- und Betriebskosten sauber voneinander.

Sagen Sie uns, was das Modell falsch macht, und zwar in den Worten, die Ihre Nutzer benutzen würden. Wir sagen Ihnen dann, welcher der drei Fälle bei Ihnen vorliegt.

Siehe auch: KI-Softwareentwicklung , Kimi K3 selbst hosten: Hardware, Kosten, Souveränität , Drupal-Migration 2026: Kosten, Wege und Fristen , OpenAI API Chatbot bauen: Leitfaden 2026 .

Häufig gestellte Fragen

Sollte ich ein Modell auf unseren Unternehmensdaten fine-tunen? Meistens nicht. Fine-Tuning lehrt Verhalten und keine Fakten, und so gelerntes Wissen lässt sich weder aktualisieren noch belegen noch prüfen. Wenn das Modell Ihre Produkte, Richtlinien oder Dokumente nicht kennt, ist Retrieval der richtige Weg und in Aufbau wie Pflege günstiger.

Was ist der Unterschied zwischen Fine-Tuning und RAG? Retrieval holt zum Zeitpunkt der Anfrage passendes Material aus Ihren Inhalten und legt es in den Kontext, sodass das Modell aus Informationen antworten kann, die es im Training nie gesehen hat. Fine-Tuning passt die Gewichte anhand von Beispielen an und ändert damit, wie sich das Modell verhält, nicht was es weiß.

Was kostet Fine-Tuning? Typischerweise 20.000 bis 80.000 Pfund für eine mittelgroße Unternehmensanwendung, bei zwei bis acht Wochen Engineering. Die Rechenzeit für das Training ist meist der kleinste Posten; der größte Teil der Kosten entsteht durch mehrere hundert bis mehrere tausend hochwertige Beispiele, die Menschen mit Fachwissen erstellen müssen.

Was kostet der Aufbau eines RAG-Systems? Üblicherweise 15.000 bis 60.000 Pfund über vier bis zwölf Wochen, vor allem abhängig davon, wie unordentlich die Quellinhalte sind. Der meiste Aufwand fließt in Ingestion, Chunking, Berechtigungen, damit Nutzer nur abrufen, was sie sehen dürfen, und in das Aktuellhalten des Index.

In welcher Reihenfolge sollte ich diese Ansätze ausprobieren? Zuerst das Evaluierungsset, dann der Prompt, dann ein größeres oder anderes Modell, dann Retrieval, wenn das Problem beim Wissen liegt, und erst danach Fine-Tuning, wenn das Problem beim Verhalten liegt. Die meisten Projekte lösen sich vor dem letzten Schritt.