Hvorfor Take-Twos tidligere AI-chef er færdig med at forsvare generativ AI

Take-Two fyrede hele sit AI-team i april som en del af en omstrukturering, et skridt, der lød mærkeligt i betragtning af, hvor åbent den bredere branche har jagtet generativ AI. Haken er, at de fleste af de fyrede slet ikke arbejdede med generativ AI. Teamet startede hos Zynga i 2019 som en forsknings- og innovationsgruppe, tre år før ChatGPT fik offentligheden til at sidestille AI med store sprogmodeller, og forblev på plads efter at Take-Two opkøbte Zynga i 2022. Dens tidligere chef, Dr. Luke Dicken, fremlagde sine bekymringer i et interview med GamesIndustry.biz.

Gruppen fungerede som et skunkworks i kælderen i Zyngas hovedkvarter i San Francisco og testede, hvordan AI som et bredt felt kunne understøtte spiludvikling. Dickens referencepunkt var bord-RPG'er. Han argumenterer for, at en god dungeon master læser, hvad spillerne ønsker, og tilpasser sessionen til det, og at den samme logik kan forme et videospil på farten. Holdet byggede et maskinlæringsprofilsystem, der sporede omkring 40 metrikker pr. spiller. Præmissen producerede et spil, Spell Forest fra 2020, som Dicken siger beviste tesen ved at flytte kerneforretningstal gennem ændringer i, hvordan en person oplevede spillet.

ChatGPTs udgivelse fra 2022 omskrev teamets job. Da det viste sig, at brugerinput kunne blive til træningsdata, overdrog Zynga styringen af generativ AI på tværs af virksomheden til gruppen, primært med fokus på at uddanne personale og godkende værktøjer. Af teamet på 25 personer arbejdede kun tre eller fire på den generative side; resten fortsatte med AI i bredere forstand. Tilsynet blev senere udvidet til hele Take-Two, før gruppen blev pensioneret i år, og dens opgaver spredte sig til andre teams.

Dicken taler ikke som en, hvis titel indtil for nylig var chef for AI. Han fremstiller generativ AI som noget, han følte en moralsk forpligtelse til at forvalte, snarere end en teknologi, han troede på.

"Generativ AI er ikke noget, jeg nogensinde har været særlig passioneret omkring. Det er noget, jeg synes, der er en moralsk forpligtelse til at se forvaltet bedst muligt, men også under den forståelse, at for enhver stor virksomhed i 2025/2026 er ingen generativ AI det forkerte svar, hvilket vil få mange mennesker til at bakke op."

— Lukas Dicken

Hans indvendinger går på tværs af tre fronter: etik, jura og forretning. Han citerer afsløringen i retssagen, der viser, at Midjourney førte en liste over kunstnere, hvis arbejde trænede sine modeller, og siger, at han kender folk på den. Han sætter spørgsmålstegn ved, om outputtet overhovedet er godt, og kalder LLM'er en næsteordsprædiktor, der er forudindtaget mod middelmådigheden. En stærk koder, argumenterer han, bliver trukket mod middelmådigt arbejde på samme måde som en svag. Han påpeger også, hvor lidt der skal til for at ødelægge en tunet model, hvor én ændring i træningsdata kaskaderer gennem netværket og ødelægger en use case, der virkede i går.

Jeg ser hans pointe om regression til middelværdien som den mest brugbare ramme her, fordi den adskiller markedsføringen fra, hvad værktøjerne målbart gør. Take-Twos aktie steg med 5% efter GTA 6-forudbestillingsannonceringen i denne uge, og den kløft mellem et håndbygget Rockstar-produkt, som investorer vil betale en præmie for, og den gennemsnitlige produktion af en LLM, er præcis den spænding, Dicken bliver ved med at kredse om.

Der er én fordel, han tilskriver hypen. For fem år siden fik det ham til at se tomme blikke, da han præsenterede en algoritme til niveaugenerering; nu nikker det samme rum til næsten alt, der kaldes AI.

"Det har gjort folk mere modtagelige for samtaler om, hvad traditionelle teknikker kunne have gjort for dem for år tilbage. De er mere tilbøjelige til at tro, at den slags ting kan eksistere."

— Lukas Dicken

Bekymringen er, hvad der sker, når boblen brister. Strauss Zelnick har præsenteret GTA 6 som et spil, der "aldrig er blevet lavet før", den slags ambition, der tager år og menneskelig håndværk snarere end statistisk gennemsnitsberegning, og Dicken frygter det modsatte udfald for feltet: at en bristet boble udelukkende vil afværge AI i branchen, inklusive traditionelle metoder. Jeg tror, at den frygt er den rigtige at have, da modreaktionen sjældent adskiller de nyttige værktøjer fra de overhypede. Han påberåber sig Ed Zitrons argument om, at boomets økonomi ikke hænger sammen, og konkluderer, at svaret ligner et nej på tværs af etik, jura og forretning, mens forbruget alligevel fortsætter.

"Min bekymring er, at generativ kunstig intelligens forgifter brønden. Jeg tror ikke, der er nok sofistikering og nuance til at bevare de traditionelle ting. For LLM'er er vi allerede snublet ned i desillusionens bund."

— Lukas Dicken

Hvordan studier navigerer i det, forbliver kontekstafhængigt, siger Dicken. En startup med seks måneder tilbage vil bruge enhver fordel, den kan. En større virksomhed er nødt til at afveje den juridiske eksponering. Han lander på værdier: det moralsk korrekte svar er ingen generativ AI, det forretningsmæssigt korrekte svar er lige nok, og hvor et studie trækker grænsen afhænger af, hvad det interesserer sig for. De samme Zelnick-interviews, der forklarer, hvorfor udviklingen af GTA 6 tog så lang tid, peger helt på den anden model, en virksomhed, der bruger 13 år på at levere noget, den anser for at være så godt, som det overhovedet kan være.

Læs også, Rockstar ser ud til at være ved at forberede en tredje GTA 6-trailer, efter stille og roligt at have fjernet den "nye" tag fra Trailer 2 forud for forudbestillinger den 25. juni, hvor insider DarkViperAU hævder, at den næste trailer varer 20 minutter.