Kad AI model ne zna nešto specifično za vašu tvrtku ili proizvod, postoje dva glavna pristupa da to riješite: fine-tuning (dodatno treniranje modela na vlastitim podacima) i RAG (dohvaćanje relevantnih podataka u trenutku upita). Pitanje "koje od to dvoje trebam?" jedno je od najčešćih u praksi, a odgovor gotovo nikad nije "oboje odjednom, po defaultu".
Kratko objašnjenje obje tehnike
RAG (Retrieval-Augmented Generation) ne mijenja sam model. Umjesto toga, prije nego što model generira odgovor, sustav pretraži vanjsku bazu znanja (obično vektorsku bazu) i ubaci najrelevantnije dijelove teksta u prompt. Model onda odgovara na temelju tog konteksta.
Fine-tuning mijenja same težine (parametre) modela dodatnim treniranjem na skupu primjera specifičnih za vaš slučaj upotrebe. Model nakon toga "zna" te obrasce trajno, bez potrebe da mu se u svakom upitu daje dodatni kontekst.
Kada RAG ima smisla
- Podaci se često mijenjaju — cijene proizvoda, status narudžbi, novosti. Fine-tuning bi zahtijevao ponovno treniranje pri svakoj promjeni, što je nepraktično.
- Trebate izvore i transparentnost — RAG lako pokazuje iz kojeg dokumenta je odgovor došao, što je bitno za compliance i povjerenje korisnika.
- Baza znanja je velika — ne možete "utrpati" cijelu internu wiki u fine-tuning skup, ali je lako pretraživati vektorski.
- Budžet i vrijeme su ograničeni — RAG se postavlja u danima, ne zahtijeva GPU infrastrukturu za treniranje niti duboko ML znanje.
Kada fine-tuning ima smisla
- Trebate konzistentan stil ili format — npr. model uvijek treba odgovarati u točno određenom JSON formatu ili tonu brenda; fine-tuning to "usađuje" pouzdanije nego dugačke instrukcije u promptu.
- Zadatak je usko specijaliziran — klasifikacija dokumenata prema internom šifrarniku, prepoznavanje specifičnog žargona struke koji opći model slabo poznaje.
- Trebate manji, brži model za produkciju — fine-tuniran manji model često može zamijeniti veći opći model za uzak zadatak, uz nižu cijenu i latenciju po upitu.
- Imate dovoljno kvalitetnih primjera — obično se preporučuje barem nekoliko stotina do nekoliko tisuća visokokvalitetnih primjera; s manje od toga rezultati su nepredvidivi.
Tablica za brzu odluku
| Kriterij | RAG | Fine-tuning |
|---|---|---|
| Podaci se često mijenjaju | ✅ | ❌ |
| Treba izvor/citiranje | ✅ | ❌ |
| Usko specijaliziran ton/format | ❌ | ✅ |
| Brzo postavljanje | ✅ | ❌ |
| Niži trošak po upitu (nakon treniranja) | ❌ | ✅ |
| Ne treba ML infrastrukturu | ✅ | ❌ |
Najčešća pogreška: biranje na temelju hypea, ne potrebe
Mnogi timovi krenu odmah na fine-tuning jer zvuči "naprednije", a zapravo im treba samo RAG nad postojećom dokumentacijom. Dobar signal da vam RAG dovoljan: kad biste problem mogli riješiti tako da relevantan dokument zalijepite u prompt ručno i dobijete dobar odgovor — to znači da vam treba samo automatizirati taj dohvat, ne trenirati model iznova.
Kombinacija: RAG + laganje fine-tuning
U praksi, najbolji sustavi često koriste oboje na različit način: RAG za činjenice i podatke koji se mijenjaju, a lagani fine-tuning (ili instrukcijski prompt) za format, ton i ponašanje modela. To nije kontradikcija s ranijim savjetom — poanta je ne krenuti od fine-tuninga kao prvog rješenja, nego ga dodati tek kad RAG i dobar prompt ne pokrivaju ostatak problema.
Zaključak
Ako niste sigurni, krenite s RAG-om — jeftiniji je za postaviti, lakše ga je mijenjati i pokriva veliku većinu poslovnih slučajeva upotrebe. Fine-tuning ostavite za trenutak kad imate jasno definiran, ponavljajući zadatak i dovoljno podataka da ga trenirate kako treba.
