Blogg

Så använder du LLM-as-a-Judge

Markdown

Använd en modell för att bedöma en annan utifrån en bedömningsmatris. Lär dig om bedömning poäng för poäng och parvis, vanliga bias och hur du kan hantera dem.

Använd en modell för att bedöma en annan utifrån en bedömningsmatris. Lär dig om bedömning poäng för poäng och parvis, vanliga bias och hur du kan hantera dem.

Vad är LLM-as-a-Judge?

LLM-as-a-Judge innebär att använda en språkmodell för att bedöma resultatet från en annan modell utifrån kriterier som du definierar. I stället för att jämföra strängar läser bedömaren resultatet och returnerar ett betyg eller ett omdöme.

Zheng et al. formaliserade paradigmet 2023 och fann att en stark modell överensstämde med mänskliga preferenser i mer än 80 % av fallen, ungefär samma nivå som när två människor är överens med varandra. Det är löftet: mänskligt liknande bedömningar i maskinell skala och till maskinkostnad.

Haken är att bedömaren är en modell och därför ärver modellernas egenheter. Om den används vårdslöst ger den självsäkra poäng som mäter fel sak.

När du ska använda det och när du inte ska

En bedömare är rätt verktyg för öppna kvalitetsfrågor som är svåra att poängsätta exakt. Det är fel verktyg när en billigare, deterministisk kontroll räcker.

Använd en bedömare för hjälpsamhet, ton, sammanhang, trohet mot en källa eller frågan ”vilket av de här två svaren är bättre?”. Hoppa över den för sådant som redan täcks av ett programmatiskt mått: etiketter, exakta värden, giltigt schema eller förekomsten av en obligatorisk uppgift.

Tumregel: försök först göra kontrollen deterministisk. Överlämna beslutet till en bedömare bara när du verkligen inte kan det.

Poäng för enskilda svar jämfört med parvis bedömning

Det finns två sätt att be en bedömare sätta poäng, och de passar för olika uppgifter.

LägeFråganBäst förSvaghet
Enskilt svar”Betygsätt det här resultatet från 1 till 5 utifrån bedömningsmatrisen.”Absoluta poäng för en instrumentpanel eller en CI-grindKalibreringen driver; poäng är svåra att jämföra mellan körningar
Parvis”Vilket är bättre, A eller B?”Jämförelse av två prompts eller två modellerGer en vinnare, inte ett absolut betyg; känsligt för ordningen

Parvis bedömning stämmer vanligtvis bättre överens med mänskliga bedömningar, eftersom relativa jämförelser är enklare än absolut kalibrering. Välj den när du A/B-testar en ändring, och använd bedömning av enskilda svar när du behöver ett fristående tal.

Skriv bedömarens prompt

En bedömare är bara så bra som sin bedömningsmatris. En vag prompt ärver modellens obestyrkta antaganden, så gör kriterierna tydliga och be bedömaren resonera innan den sätter poäng.

You are evaluating an answer to a user question. Judge ONLY against the rubric.
Rubric:
- Correctness: does the answer match the reference facts?
- Completeness: does it cover what the question asked?
- Groundedness: are claims supported, with no invented details?
Question: {question}
Reference: {reference}
Answer: {answer}
First, reason step by step about each rubric criterion in 1-2 sentences.
Then output a JSON verdict: {"correctness": 0-1, "completeness": 0-1,
"groundedness": 0-1, "pass": true/false}. Do not reward length or style.

Två detaljer spelar roll. Att be om stegvis resonemang före omdömet (en prompt med kedja av tankar) förbättrar överensstämmelsen med mänskliga bedömningar. Och den uttryckliga raden ”belöna inte längd eller stil” motverkar direkt en bias som tas upp härnäst.

De fyra bias du måste hantera

En bedömare är inget neutralt orakel. Forskning har dokumenterat återkommande bias, som är egenskaper hos metoden och inte buggar som du helt kan prompta bort.

BiasVad händerMotåtgärd
PositionsbiasVid parvis bedömning vinner svaret på plats A oftare än slumpen skulle förutsägaKör båda ordningarna (A/B och B/A) och lita bara på ett omdöme som stämmer överens i båda
VerbositetsbiasLängre svar får högre poäng, även när kvaliteten är densammaBestraffa längd i bedömningsmatrisen eller använd vinstfrekvenser kontrollerade för längd
SjälvpreferensEn bedömare föredrar resultat från sin egen modellfamiljAnvänd en bedömare från en annan familj än modellen som testas
FormatbiasBedömaren föredrar sitt eget favoritformat (prosa framför JSON osv.)Ange det format som krävs i bedömningsmatrisen och poängsätt innehållet, inte formen

Den viktigaste av dessa är positionsbias, eftersom den är lätt att upptäcka i kod och i tysthet förvanskar varje parvis jämförelse du gör.

Hantera positionsbias i kod

Lösningen på positionsbias är enkel: bedöm varje par två gånger och byt plats på resultaten. Utse bara en vinnare om omdömet är detsamma i båda fallen. Om omdömet ändras enbart på grund av ordningen gissar bedömaren.

# debias.py
def pairwise_debiased(x: str, y: str, judge) -> str:
    """Run the judge in both orderings. Trust the result only if it agrees."""
    first = judge(x, y)    # x in slot A
    second = judge(y, x)   # y in slot A
    x_wins = first == "A" and second == "B"
    y_wins = first == "B" and second == "A"
    if x_wins:
        return "x"
    if y_wins:
        return "y"
    return "tie/uncertain (verdict flipped on order)"
# A deliberately position-biased judge stub: it always picks slot A.
# Real judges show a smaller version of this; we exaggerate to prove the control works.
def biased_judge(a: str, b: str) -> str:
    return "A"
# A fair judge that decides on a real signal (here, conciseness) regardless of slot.
def fair_judge(a: str, b: str) -> str:
    return "A" if len(a) <= len(b) else "B"
print("biased:", pairwise_debiased("short answer", "a much longer answer", biased_judge))
print("fair:  ", pairwise_debiased("short answer", "a much longer answer", fair_judge))

Klistra in detta i debias.py och kör python debias.py. Du får exakt:

biased: tie/uncertain (verdict flipped on order)
fair:   x

Avbiasningen gjorde sitt jobb. Den upptäckte den partiska bedömaren och vägrade utse en vinnare, samtidigt som den släppte igenom den opartiska bedömarens stabila omdöme. Om du vill använda en riktig bedömare ersätter du judge med en funktion som anropar en LLM med bedömningsmatrisens prompt ovan och returnerar ”A” eller ”B”.

Granska din bedömare

Mät bedömaren innan du litar på den i produktion. En bedömare som du inte har granskat är ett mått du inte kan försvara.

Bygg ett litet kalibreringsunderlag med fall där det korrekta omdömet är känt, helst märkta av människor. Kör bedömaren och kontrollera två saker: hur ofta den stämmer överens med de mänskliga etiketterna och hur ofta ett parvis omdöme ändras när du byter ordning. En ändringsfrekvens över ungefär 5 % betyder att positionsbias fortfarande slinker igenom.

Gör om granskningen varje gång du byter bedömningsmodell. En mindre versionsuppdatering kan förändra poängfördelningen, så kalibrering är inte något du gör en enda gång.

Det hybrida mönstret

En tillförlitlig lösning förlitar sig inte bara på en bedömare. Den kombinerar tre sorters kontroller, med de billigaste först.

  • Deterministiska mått hanterar allt de kan (etiketter, schema, obligatoriska uppgifter).
  • LLM-bedömaren poängsätter endast de öppna kvaliteter som återstår.
  • En människa stickprovsgranskar några av bedömarens omdömen för att hålla den ärlig.

Varje lager täcker den föregående lagrets blinda fläck. Bedömaren är ett kraftfullt mellanskikt, inte hela stacken.

Vanliga misstag

De flesta opålitliga bedömare har några gemensamma orsaker.

De vanligaste:

  • Att använda samma modell som generator och bedömare, vilket bygger in självpreferens.
  • Att skriva en vag bedömningsmatris, så att bedömaren poängsätter utifrån dolda antaganden.
  • Att bara köra parvis bedömning i en ordning, så att positionsbias inte upptäcks.
  • Att aldrig kalibrera mot människor, så att du inte kan säga om bedömaren har rätt.

Åtgärda detta genom att skilja bedömaren från modellen som testas, skriva en tydlig bedömningsmatris, alltid byta ordning och granska mot mänskliga etiketter.

Källor

Zheng et al., Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena (NeurIPS 2023). LLM-as-a-Judge-paradigmet, över 80 % överensstämmelse med mänskliga preferenser samt positions-, verbositets- och självförstärkningsbias.

Vanliga frågor

Vad är LLM-as-a-Judge?

Att använda en språkmodell för att poängsätta resultatet från en annan utifrån en bedömningsmatris, för egenskaper som inte kan fångas med exakt matchning, till exempel hjälpsamhet, ton eller trohet.

Kan jag använda samma modell för att generera och bedöma?

Nej. En bedömare föredrar resultat från sin egen familj (självpreferensbias), så om du bedömer din egen modell blåses poängen upp. Använd en bedömare från en annan familj.

Hur stoppar jag positionsbias?

Kör varje parvis jämförelse i båda ordningarna och godta bara ett omdöme som håller i båda fallen. Om det ändras enbart på grund av ordningen ska du behandla det som oavgjort.

Använd den här guiden med Ailoot

Anslut AI-modeller till dina applikationer, agenter och automatiseringar via ett enda Ailoot-API. Välj den modell som passar din uppgift och följ Ailoot-dokumentationen för att komma igång.