# Kako uporabljati LLM kot ocenjevalca

> Z enim modelom ocenite drugega po rubriki. Spoznajte ocenjevanje po posameznih odgovorih in v parih, pogoste pristranskosti ter načine za njihovo obvladovanje.

Source: https://ailoot.ai/blog/sl/how-to-use-llm-as-a-judge/
Canonical: https://ailoot.ai/blog/sl/how-to-use-llm-as-a-judge/
Language: sl
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100048
Revision: sha256-0799e09a14a525dc3d6489064118a32db5118155d04e88dfd637492a636dc0bb


Z enim modelom ocenite drugega po rubriki. Spoznajte ocenjevanje po posameznih odgovorih in v parih, pogoste pristranskosti ter načine za njihovo obvladovanje.

## Kaj je LLM-as-a-judge?

LLM-as-a-judge pomeni uporabo jezikovnega modela za vrednotenje izhoda drugega modela glede na merila, ki jih določite. Namesto primerjave nizov ocenjevalec prebere izhod in vrne oceno ali razsodbo.

Paradigmo so leta 2023 formalizirali Zheng in sod. Ugotovili so, da se je močan model z več kot 80 % strinjal s človeškimi preferencami, kar je približno tolikšna stopnja strinjanja, kot jo dosežeta dva človeka. To je obljuba: človeško presojanje v strojnem obsegu in po strojni ceni.

Težava je v tem, da je ocenjevalec model, zato podeduje njegove posebnosti. Če ga uporabljate neprevidno, ustvarja samozavestne ocene, ki merijo napačno stvar.

## Kdaj ga uporabiti in kdaj ne

Ocenjevalec je prava izbira za odprto vrednotenje kakovosti, ki se upira natančnemu točkovanju. Napačna izbira pa je, kadar zadostuje cenejše, deterministično preverjanje.

Ocenjevalca uporabite za koristnost, ton, koherentnost, zvestobo viru ali za vprašanje »kateri od teh dveh odgovorov je boljši«. Preskočite ga pri vsem, kar že pokriva programska metrika: oznake, natančne vrednosti, veljavnost sheme ali prisotnost zahtevanega dejstva.

Pravilo: najprej poskusite preverjanje narediti deterministično. Odločitev prepustite ocenjevalcu samo, če tega res ne morete.

## Ocenjevanje po posameznih odgovorih in v parih

Ocenjevalca lahko prosite za oceno na dva načina, ki sta primerna za različne naloge.

| Način | Vprašanje | Najprimernejši za | Slabost |
|----|----|----|----|
| **Po posameznem odgovoru** | »Ocenite ta izhod od 1 do 5 glede na rubriko.« | Absolutne ocene za nadzorno ploščo ali vrata CI | Umerjanje se spreminja; ocene je težko primerjati med zagoni |
| **V paru** | »Kateri je boljši, A ali B?« | Primerjavo dveh pozivov ali dveh modelov | Izbere zmagovalca, ne poda absolutne ocene; občutljivo na vrstni red |

Ocenjevanje v parih se običajno bolj ujema s človeškim, ker je relativna primerjava lažja od absolutnega umerjanja. Uporabite ga pri A/B-preizkušanju spremembe, ocenjevanje po posameznem odgovoru pa takrat, ko potrebujete samostojno številčno vrednost.

## Napišite poziv za ocenjevalca

Ocenjevalec je dober le toliko, kot je dobra njegova rubrika. Nejasen poziv prevzame modelove neutemeljene predpostavke, zato merila navedite izrecno in ocenjevalca prosite, naj pred oceno utemelji svojo presojo.

```
You are evaluating an answer to a user question. Judge ONLY against the rubric.
Rubric:
- Correctness: does the answer match the reference facts?
- Completeness: does it cover what the question asked?
- Groundedness: are claims supported, with no invented details?
Question: {question}
Reference: {reference}
Answer: {answer}
First, reason step by step about each rubric criterion in 1-2 sentences.
Then output a JSON verdict: {"correctness": 0-1, "completeness": 0-1,
"groundedness": 0-1, "pass": true/false}. Do not reward length or style.
```

Pomembni sta dve podrobnosti. Zahteva po postopni utemeljitvi pred razsodbo (poziv za verigo razmišljanja) izboljša ujemanje s človeškimi ocenami. Izrecna vrstica »ne nagrajujte dolžine ali sloga« pa neposredno preprečuje pristranskost, ki jo obravnavamo v nadaljevanju.

## Štiri pristranskosti, ki jih morate obvladovati

Ocenjevalec ni nevtralno preročišče. Raziskave so dokumentirale dosledne pristranskosti; te so lastnosti metode in jih s pozivi ne morete povsem odpraviti.

| Pristranskost | Kaj se dogaja | Ukrep za ublažitev |
|----|----|----|
| **Pristranskost vrstnega reda** | Pri ocenjevanju v paru odgovor v mestu A zmaga pogosteje, kot bi pričakovali po naključju | Preizkusite oba vrstna reda (A/B in B/A) in zaupajte le ujemajoči se razsodbi |
| **Pristranskost do obširnosti** | Daljši odgovori dobijo višjo oceno, tudi če je kakovost enaka | V rubriki kaznujte dolžino ali uporabite stopnje zmag pri nadzorovani dolžini |
| **Naklonjenost lastnim izhodom** | Ocenjevalec daje prednost izhodom iz svoje družine modelov | Uporabite ocenjevalca iz druge družine kot model, ki ga preizkušate |
| **Pristranskost glede oblike** | Ocenjevalec daje prednost obliki, ki mu ustreza (npr. prozi pred JSON-om) | V rubriki navedite zahtevano obliko in ocenjujte vsebino, ne oblike |

Najpomembnejša je pristranskost vrstnega reda, ker jo je v kodi lahko zaznati, neopažena pa tiho pokvari vsako primerjavo v paru.

## V kodi odpravite pristranskost vrstnega reda

Rešitev za pristranskost vrstnega reda je preprosta: vsak par ocenite dvakrat, pri čemer zamenjate vrstni red izhodov, in zmagovalca razglasite samo, če razsodba velja v obeh primerih. Če se spremeni zgolj zaradi vrstnega reda, ocenjevalec ugiba.

```
# debias.py
def pairwise_debiased(x: str, y: str, judge) -> str:
    """Run the judge in both orderings. Trust the result only if it agrees."""
    first = judge(x, y)    # x in slot A
    second = judge(y, x)   # y in slot A
    x_wins = first == "A" and second == "B"
    y_wins = first == "B" and second == "A"
    if x_wins:
        return "x"
    if y_wins:
        return "y"
    return "tie/uncertain (verdict flipped on order)"
# A deliberately position-biased judge stub: it always picks slot A.
# Real judges show a smaller version of this; we exaggerate to prove the control works.
def biased_judge(a: str, b: str) -> str:
    return "A"
# A fair judge that decides on a real signal (here, conciseness) regardless of slot.
def fair_judge(a: str, b: str) -> str:
    return "A" if len(a) <= len(b) else "B"
print("biased:", pairwise_debiased("short answer", "a much longer answer", biased_judge))
print("fair:  ", pairwise_debiased("short answer", "a much longer answer", fair_judge))
```

To prilepite v `debias.py` in zaženite `python debias.py`. Rezultat je natanko:

```
biased: tie/uncertain (verdict flipped on order)
fair:   x
```

Odpravljanje pristranskosti je uspelo. Zaznalo je pristranskega ocenjevalca in zavrnilo izbiro zmagovalca, medtem ko je stabilno razsodbo poštenega ocenjevalca sprejelo. Če želite uporabiti resničnega ocenjevalca, zamenjajte `judge` s funkcijo, ki pokliče LLM z zgornjim pozivom za rubriko in vrne »A« ali »B«.

## Preverite svojega ocenjevalca

Preden ocenjevalcu zaupate v produkciji, izmerite njegovo delovanje. Ocenjevalec, ki ga niste preverili, je metrika, ki je ne morete zagovarjati.

Sestavite majhen kalibracijski nabor primerov z znanimi pravilnimi razsodbami, po možnosti z oznakami ljudi. Zaženite ocenjevalca in preverite dvoje: kako pogosto se ujema s človeškimi oznakami ter kako pogosto se razsodba v paru spremeni, ko zamenjate vrstni red. Stopnja sprememb nad približno 5 % pomeni, da pristranskost vrstnega reda še vedno vpliva na rezultate.

To preverjanje ponovite ob vsaki spremembi modela ocenjevalca. Že manjši dvig različice lahko spremeni porazdelitev ocen, zato umerjanje ni enkratna naloga.

## Hibridni vzorec

Zanesljiva postavitev se ne opira samo na ocenjevalca. Uporablja tri vrste preverjanj, od najcenejšega naprej.

- Deterministične metrike obravnavajo vse, kar zmorejo (oznake, shemo, zahtevana dejstva).
- Ocenjevalec LLM ocenjuje samo preostale odprte vidike kakovosti.
- Človek na vzorcu preveri razsodbe ocenjevalca in poskrbi, da ostane zanesljiv.

Vsaka plast pokriva slepo pego prejšnje. Ocenjevalec je zmogljiva vmesna stopnja, ne celoten sklad.

## Pogoste napake

Za večino nezanesljivih ocenjevalcev je krivih nekaj ponavljajočih se vzrokov.

Najpogostejše napake:

- Isti model uporabite za generiranje in ocenjevanje, s čimer utrjujete naklonjenost lastnim izhodom.
- Napišete nejasno rubriko, zato ocenjevalec ocenjuje na podlagi skritih predpostavk.
- Primerjavo v paru izvedete samo v enem vrstnem redu, zato pristranskost vrstnega reda ostane neopažena.
- Nikoli ne umerite ocen glede na človeške, zato ne morete vedeti, ali ocenjevalec pravilno ocenjuje.

Te napake odpravite tako, da ocenjevalca ločite od modela, ki ga preizkušate, napišete izrecno rubriko, vedno zamenjate vrstni red in preverjate rezultate glede na človeške oznake.

## Viri

Zheng in sod., *Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena* (NeurIPS 2023). Paradigma LLM-as-judge, več kot 80-odstotno ujemanje s človeškimi preferencami ter pristranskosti vrstnega reda, obširnosti in samopoveličevanja.

<div class="section">

## Pogosta vprašanja

Kaj je LLM-as-a-judge?

Uporaba enega jezikovnega modela za ocenjevanje izhoda drugega glede na rubriko pri lastnostih, ki jih ni mogoče zajeti z natančnim ujemanjem, na primer koristnosti, tonu ali zvestobi.

Ali lahko isti model uporabim za generiranje in ocenjevanje?

Ne. Ocenjevalec daje prednost izhodom iz svoje družine modelov (pristranskost do lastnih izhodov), zato ocenjevanje lastnega modela zviša rezultat. Uporabite ocenjevalca iz druge družine.

Kako preprečim pristranskost vrstnega reda?

Vsako primerjavo v paru izvedite v obeh vrstnih redih in sprejmite samo razsodbo, ki velja v obeh primerih. Če se spremeni zgolj zaradi vrstnega reda, jo obravnavajte kot neodločen izid.

</div>

## Uporabite ta vodič z Ailoot

Povežite modele umetne inteligence s svojimi aplikacijami, agenti in avtomatizacijami prek enega Ailoot API-ja. Izberite model, ki ustreza vaši nalogi, in za začetek upoštevajte [dokumentacijo Ailoot](https://ailoot.ai/docs/).


## Ailoot · Podjetje in njegov portfelj projektov

Ailoot temelji na pridobljenih operativnih izkušnjah, široki bazi strank, stabilni storitvi in stalnem spremljanju KPI.

Podjetje in njegov portfelj projektov: milijoni strank; mesečna prodaja v milijardah.

Ailoot te operativne izkušnje uporablja za dostop prek API do funkcij umetne inteligence v izdelkih strank, agentih, aplikacijah in avtomatizacijah.
