LLM'er er forudindtaget over for japansk kultur - her er et resumé af studiet

Frontier AI-modeller har en kulturel type, og ifølge ny forskning er den type Japan. Når man stiller en stor sprogmodel et åbent spørgsmål om kultur uden at nævne et land, har den en tendens til at gribe ind efter japanske eksempler mere end nogen anden, en tiltrækningskraft der viser sig på tværs af otte hovedmodeller og 24 sprog.

Fundet stammer fra en hvidbog udgivet i april af forskere ved University of the Baskerland og Cardiff University. De udviklede et flersproget testsæt med 31.680 åbne, men kulturelt forankrede spørgsmål, der spændte over 66 kulturelle underemner på tværs af 11 bredere domæner. Spørgsmålene spurgte om ting som hvilke legender der forklarer landet, hvilken rolle naboer spiller, hvilke skolefag vejer tungest, og hvad folk spiser til hverdagsmåltider. Ingen af dem nævnte et land. Efter hvert spørgsmål skulle modellen vælge en region og svare med specifikke eksempler.

Modellerne hældede ikke bare mod Japan med en smule. Artiklen beskriver en "uforholdsmæssig fremtrædende plads for Japan" i svarene, ensartet nok til at gælde for hele den 24-sprogede spredning i stedet for at gruppere sig i én regions output.

Designet var beregnet til at afsløre, hvad modellerne som standard tror på.

"Dette sikrer, at eventuelle regionale eller kulturelle antagelser stammer fra modellens interne forudgående forhold snarere end fra et hurtigt design."

— Forskerne

Sprog ændrede også, hvor snævre modellerne blev. Artiklen rapporterer, at modellerne på engelsk og andre sprog med mange ressourcer gav mere varierede svar og lænede sig mindre op ad det land, der var knyttet til inputsproget. Sprog med færre ressourcer gav dem et tyndere grundlag at stå på, og de faldt hårdere tilbage på standardværdier.

Det første mønster er det åbenlyse. Spørg på fransk, få Frankrig; spørg på japansk, få Japan. Modeller læner sig op ad det land, der matcher spørgsmålets sprog. Det interessante er, hvad der sker, når en model ser ud over det pågældende hjemland. Da den rakte ud efter en ekstern reference, rakte den ud efter Japan. Seks ud af de otte modeller foretrak Japan i disse eksogene svar. USA kom på andenpladsen, derefter Indien, Kina og Frankrig. På tværs af alle 24 sprog vandt Japan syv ud af de 11 kulturelle emner, da hvert sprogs eget land blev sat til side.

De testede modeller var ChatGPT, Gemini, Claude, Meta Llama, Command-r, Magistral, Qwen og DeepSeek, så dette er ikke en særhed ved ét laboratorium. Forskerne beskriver det som et koncentrationsproblem, hvor output grupperes på et lille sæt af dominerende regioner. Det er netop denne kløft, der gør resultatet til mere end en fodnote: Selv modeller fra kinesiske og europæiske laboratorier, der svarede på deres egne sprog, blev ved med at glide tilbage til den samme korte liste.

Tiltrækningen mod Japan er ikke svær at forklare. Anime, manga, spilfranchises og mad har været nogle af de mest eksporterede og mest diskuterede kulturelementer online i årevis, og modellerne lærte af den samme brønd. Internettets lange vane med at romantisere japanske medier forsvandt ikke, da træningsdataene blev skrabet; de blev kodet. Det, dataene tilføjer, er et tal: dette er ikke en stemning, det er en målbar hældning, der overlever oversættelse til to dusin sprog.

Jeg har en konto om AI, og "modellerne er idioter" er det sjoveste forskningsresumé, jeg har læst hele året. Joken skriver sig selv: internettet har i årtier været fikseret på anime og japansk mad, maskinerne lærte af det internet, og nu har de også et yndlingsland. Fundet under pointen er mere stille og brugbart.

Undersøgelsen stoppede ikke ved at navngive biasen. Den spurgte, hvornår biasen opstår. Holdet sammenlignede modeloutput før og efter instruktionsjustering, træningsfasen, der lærer en rå model at svare brugbart i stedet for blot at producere grammatisk tekst. Til den sammenligning brugte de de engelske svar fra Meta Llama, Qwen, Gemma og Mistral og kontrollerede hver enkelt før og efter justeringstrinnet. Før justering havde basismodellerne en bredere smag. USA dukkede stadig ofte op, men det gjorde Japan, Indien, Kina og flere europæiske lande også, spredt over et bredere kort.

Efter finjusteringen skrumpede kortet.

"På tværs af alle undersøgte modelfamilier øger instruktionstilpasningen markant tilpasningen til USA og Japan, samtidig med at den reducerer referencer til de fleste andre lande."

— Forskerne

Effekten var stærkest i modeller, der gennemgik overvåget finjustering, hvor en model lærer fra kuraterede eksempler på korrekte svar, ofte skrevet eller valgt af folk. Forskerne fandt, at dette trin skubber output mod en håndfuld dominerende regioner, og senere justering skubber det kun lidt tilbage. Homogeniseringen er ikke indbygget i de rå internetdata; den tilføjes bagefter, når mennesker beslutter, hvordan et godt svar ser ud.

Japan-biasen er et symptom, og den del jeg bliver ved med at vende tilbage til er mere stille: et globalt værktøj flader verdens kulturer ud i to eller tre standarder. Artiklen bemærker, at dette gælder selv for modeller bygget uden for Vesten, så det er ikke blot amerikanske virksomheder, der eksporterer amerikansk smag. Noget ved selve tuningsprocessen belønner det sikre, dominerende svar.

Undersøgelsen fremstiller dette som en praktisk advarsel snarere end en kuriositet. Forskerne argumenterer for, at det at bevare en række kulturelle synspunkter "kan være afgørende" for værktøjer, der anvendes på tværs af mange kulturer. Det betyder mest, hvor disse systemer nu er standard: søgning, vejledning, oversættelse og de hverdagssvar, folk tager for givet.

Jeg synes ikke, det er en skandale, og det gør ikke modellerne ubrugelige. Det er en påmindelse om, at en models "neutrale" standard er et valg, nogen har truffet, og valget tenderer mod det velkendte.

Læs også, YouTuber sammyuri byggede en fungerende version af ChatGPT i Minecraft udelukkende ved hjælp af vanilla redstone, en maskine med 439 millioner blokke, der kører en lille model med 5 millioner parametre og en hukommelse på 64 tokens; det kan tage timer at producere et enkelt svar og returnerer ofte nonsens, men som et proof of concept er det slående.

Og modding-scenen i Cyberpunk 2077 bliver ved med at strække spillet, med én ny mod, der tilføjer en brutal kampøkse, der læner sig op ad de indbyggede systemer til blod og lemlæstelse, og en anden, der forbinder OpenAIs API med Night City, så moddere kan generere NPC-dialog, sidemissioner og adaptiv fjendtlig adfærd undervejs.