Fine-tuning keeps training an already-capable model on your own examples until it reliably adopts a task, format, or style you couldn't pin down by prompting alone.

Where you meet it

• Locking a model to a fixed output shape — strict JSON, a house tone of voice, a domain's terminology.
• Squeezing a smaller, cheaper model into a narrow task a big model handled via long prompts.
• Adapter ecosystems — one frozen base, many swappable LoRA adapters, one per task or customer.

What it does

It takes the weights of a pre-trained model and nudges them with supervised (input → output) examples, so the behavior you were spelling out in the prompt gets baked into the model itself. The result needs shorter prompts and behaves more consistently.

Fine-tuning teaches a model how to behave, not what's true — for fresh facts, reach for RAG instead.

How it works

You continue training the pre-trained model with a smaller learning rate on domain- or task-specific (input → output) pairs, so it adapts without erasing what it already knew.

full fine-tuning   → update ALL weights      (powerful, expensive)
PEFT / LoRA        → freeze base, train a few (cheap, swappable)
                     extra params (adapters)

Full fine-tuning updates every weight and stores a complete copy per task — strong but GPU-hungry. PEFT/LoRA freezes the base and trains a tiny set of added parameters (typically well under 1% of the weights; LoRA reports up to a 10,000× cut vs. full tuning of GPT-3), tuning style, format, and specialized behavior for a fraction of the cost.

Watch out

Go deeper

• Hugging Face — PEFT documentation (parameter-efficient fine-tuning)
• Hu et al. — LoRA: Low-Rank Adaptation of Large Language Models (arXiv)
• OpenAI — Model optimization & fine-tuning guide
• Stanford CS224N — NLP with Deep Learning (PEFT & adaptation lectures)

Fine-Tuning trainiert ein bereits fähiges Modell mit deinen eigenen Beispielen weiter, bis es zuverlässig eine Aufgabe, ein Format oder einen Stil übernimmt, den du per Prompting allein nicht festnageln konntest.

Wo es vorkommt

• Ein Modell auf eine feste Ausgabeform festlegen — striktes JSON, ein Haus-Ton, die Terminologie einer Domäne.
• Ein kleineres, billigeres Modell auf eine enge Aufgabe trimmen, die ein großes Modell nur über lange Prompts schaffte.
• Adapter-Ökosysteme — eine eingefrorene Basis, viele tauschbare LoRA-Adapter, einer pro Aufgabe oder Kunde.

Was es tut

Es nimmt die Gewichte eines vortrainierten Modells und justiert sie mit überwachten (Eingabe → Ausgabe)-Beispielen, sodass das Verhalten, das du sonst im Prompt ausbuchstabiert hast, ins Modell selbst eingebrannt wird. Das Ergebnis braucht kürzere Prompts und ist konsistenter.

Fine-Tuning bringt einem Modell bei, wie es sich verhält — nicht was wahr ist. Für frische Fakten ist RAG zuständig.

Wie es funktioniert

Du trainierst das vortrainierte Modell mit einer kleineren Lernrate auf domänen- oder aufgabenspezifischen (Eingabe → Ausgabe)-Paaren weiter, damit es sich anpasst, ohne das Vorwissen zu zerstören.

Full Fine-Tuning → ALLE Gewichte ändern       (mächtig, teuer)
PEFT / LoRA      → Basis einfrieren, wenige   (günstig, tauschbar)
                   Zusatz-Params trainieren (Adapter)

Full Fine-Tuning aktualisiert jedes Gewicht und speichert eine ganze Kopie pro Aufgabe — stark, aber GPU-hungrig. PEFT/LoRA friert die Basis ein und trainiert nur wenige Zusatzparameter (typischerweise deutlich unter 1% der Gewichte; LoRA berichtet bis zu einer 10.000-fachen Reduktion gegenüber Full Tuning von GPT-3) und passt Stil, Format und spezialisiertes Verhalten zu einem Bruchteil der Kosten an.

Worauf achten

Mehr dazu

• Hugging Face — PEFT-Doku (parameter-effizientes Fine-Tuning)
• Hu et al. — LoRA: Low-Rank Adaptation of Large Language Models (arXiv)
• OpenAI — Model-Optimization- & Fine-Tuning-Guide
• Stanford CS224N — NLP with Deep Learning (PEFT- & Adaptions-Lectures)