Fine-tuning
Ook wel finetunen
Wat betekent fine-tuning?
Fine-tuning is het bijtrainen van een bestaand AI-model met je eigen voorbeelden. Zo leert het model een vaste stijl, taak of vakjargon beter, zonder dat je het in elke prompt opnieuw hoeft uit te leggen.
Veelgestelde vragen over fine-tuning
Wanneer kies ik fine-tuning in plaats van een goede prompt?
Begin altijd met prompting. Een duidelijke instructie met een paar voorbeelden lost de meeste problemen al op. Fine-tuning wordt interessant als:
- je steeds dezelfde taak in grote aantallen laat uitvoeren;
- je prompts erg lang worden door alle uitleg en voorbeelden;
- het model je stijl of opmaak ondanks goede prompts niet consequent volgt;
- je een kleiner, goedkoper model hetzelfde wilt laten doen als een groot model.
Werkt een goede prompt al naar tevredenheid? Dan levert fine-tuning vooral extra werk en kosten op.
Hoeveel voorbeelden heb ik nodig om een AI-model te finetunen?
Dat hangt af van de taak en het model. Aanbieders zoals OpenAI raden aan klein te beginnen met enkele tientallen goede voorbeelden. Daarna breid je uit als je ziet dat het helpt. Een simpele schrijfstijl aanleren vraagt minder voorbeelden dan een complexe taak met veel uitzonderingen.
Kwaliteit telt zwaarder dan aantal. Elk voorbeeld bestaat uit een opdracht en het perfecte antwoord daarop. Zorg dat die antwoorden precies zijn zoals jij ze wilt, want het model neemt fouten en slordigheden net zo goed over.
Wat kost fine-tuning van een AI-model?
Er is geen vaste prijs. De kosten hangen af van:
- het model: grotere modellen zijn duurder om te trainen en te gebruiken;
- de hoeveelheid trainingsdata en hoe vaak het model die doorloopt;
- het gebruik daarna, want een gefinetuned model kan per vraag duurder zijn dan het standaardmodel;
- de tijd die het kost om goede voorbeelden te verzamelen en te controleren.
Die laatste post is vaak de grootste. Bekijk de actuele prijslijst van je aanbieder en zet de kosten af tegen wat slim prompten je al oplevert.
Kan ik mijn producten en prijzen via fine-tuning aanleren?
Dat is een veelgemaakte denkfout. Fine-tuning is goed in het aanleren van gedrag, zoals toon, opmaak en vaste werkwijzen. Voor feiten is het niet betrouwbaar. Het model kan informatie door elkaar halen of verzinnen, en bij elke prijswijziging zou je opnieuw moeten trainen.
Voor actuele bedrijfsinformatie gebruik je beter RAG (retrieval-augmented generation). Het model zoekt dan bij elke vraag eerst in jouw eigen documenten of database en baseert het antwoord daarop. Je kunt beide ook combineren: fine-tuning voor de stijl, RAG voor de feiten.
Hoe test ik of mijn gefinetunede model echt beter werkt?
Vergelijk het met het oorspronkelijke model op voorbeelden die het tijdens de training niet heeft gezien. Zo pak je dat aan:
- houd vooraf een deel van je voorbeelden apart als testset;
- laat beide modellen dezelfde opdrachten uitvoeren;
- beoordeel de antwoorden op vaste punten, zoals toon, juistheid en opmaak;
- laat iemand meekijken die niet weet welk antwoord van welk model komt.
Scoort het nieuwe model niet duidelijk beter? Verbeter dan eerst je trainingsdata voordat je opnieuw traint.
