Čo je fine-tuning?

Vysvetlenie

Veľký jazykový model je natrénovaný všeobecne. Pri fine-tuningu ho ďalej trénujeme na stovkách až tisíckach príkladov typu vstup a správny výstup. Model si tak osvojí napríklad firemný štýl písania, špecifické triedenie dokumentov alebo presný formát odpovede.

Fine-tuning nie je najlepší spôsob, ako modelu dodať fakty o firme. Na to slúži RAG, ktorý pracuje s aktuálnymi dokumentmi a dá sa ľahko aktualizovať. Dotrénovaný model si fakty pamätá nepresne a pri každej zmene treba trénovať znova.

V praxi sa postupuje od najjednoduchšieho: najprv dobrý prompt s príkladmi, potom RAG a až keď to nestačí, fine-tuning. Ten má zmysel pri veľkom objeme opakovaných úloh, kde menší dotrénovaný model nahradí drahší veľký model, alebo pri veľmi špecifickej úlohe či štýle. Vyžaduje kvalitné a vyčistené trénovacie dáta.

Príklad z firmy

Maklérska firma triedi každý mesiac veľké množstvo dokumentov do desiatok kategórií. Menší model dotrénovaný na už roztriedených dokumentoch môže túto úlohu zvládať rýchlejšie a lacnejšie ako veľký univerzálny model.