Inde i Roblox' sikkerhedsdrama efter et anspændt CEO-interview

Det seneste interview med ROBLOX' CEO har bragt den tvivl, der længe har hersket om platformens sikkerhedskultur, frem i lyset. Roblox har været i søgelyset i årevis, men tallene har skærpet opmærksomheden. Virksomheden har nu omkring 150 millioner daglige aktive brugere, hvoraf mange er børn, og har tidligere registreret et internt tal på mere end 13.000 rapporterede tilfælde af udnyttelse af børn i løbet af et enkelt år.

I The New York Times' tech-podcast Hard Fork blev Roblox' medstifter og administrerende direktør David Baszucki spurgt direkte om rovdyr, der går efter børn på tjenesten. Hans beslutning om at beskrive problemet som "en mulighed" ramte med usædvanlig kraft, fordi den ikke kom isoleret, men på baggrund af retssager, fejlslagen moderation og politiske kampe, der allerede har presset forældrenes tillid til det yderste.

Tre amerikanske stater - Louisiana, Kentucky og Texas - har lagt sag an og hævdet, at Roblox ikke har gjort nok for at beskytte mindreårige. Mere end 20 andre sager ved føderale domstole hævder, at platformen har muliggjort seksuel udnyttelse. Samtidig har Roblox udrullet AI-drevet aldersvurdering og udvidede chatbegrænsninger og derefter udråbt disse værktøjer som bevis på, at de holder sig foran den bredere industri.

Hard Fork-værterne Casey Newton og Kevin Roose formulerede deres spørgsmål i den sammenhæng. Da Newton spurgte, hvordan han tænkte på "problemet med rovdyr på Roblox", svarede Baszucki:

"Vi ser det ikke nødvendigvis kun som et problem, men også som en mulighed. Hvordan giver vi unge mennesker mulighed for at bygge, kommunikere og hænge ud sammen? Hvordan opbygger vi fremtidens kommunikation på samme tid?" - David Baszucki.

Resten af svaret gjorde det klart, at han mente en mulighed for at innovere inden for moderation og kommunikationsdesign. Formuleringen gjorde dog en af de mørkeste realiteter på enhver børneplatform til en vækstudfordring. For kritikere forstærkede det en mistanke om, at Roblox-ledelsen ser sikkerhed som endnu et teknisk problem, der skal optimeres, snarere end en hård grænse, der kan begrænse, hvad en virksomhed bør gøre.

Under hele ROBLOX CEO Interview vendte Baszucki hele tiden tilbage til skalaen som både forklaring og skjold. Han bemærkede, at Roblox-brugere logger omkring 11 milliarder timer om måneden og pegede på Steal a Brainrot, et hitspil, der nåede 25 millioner samtidige spillere i løbet af sommeren, som bevis på, hvad platformens infrastruktur kan understøtte. På spørgsmålet om, hvorvidt rovdyr har fundet det nemt at omgå filtre, afviste han at svare direkte og sagde i stedet:

"Det er en af de primære ting, vi gør, at forsøge at holde folk på vores platform... vi forsøger altid at være på forkant med det." - David Baszucki.

Da Newton fulgte op og spurgte direkte, om han mente, at Roblox havde et problem med rovdyr, indrømmede Baszucki ikke præmissen.

"Jeg synes, vi gør et utroligt stykke arbejde med at innovere i forhold til antallet af mennesker på vores platform og antallet af timer, hvor vi virkelig læner os ind i fremtiden for, hvordan det her kommer til at fungere." - David Baszucki.

Udvekslingen udkrystalliserede spændingen. På den ene side en virksomhed, der har brugt næsten to årtier på at opbygge værktøjer til brugergenererede spil og fællesskaber, og som nu læner sig tungt op ad AI-filtrering og aldersvurdering for at styre risikoen. På den anden side er der en voksende gruppe af forældre, lovgivere, skabere og interesseorganisationer, som siger, at det grundlæggende spørgsmål forbliver ubesvaret: Er det her nok, og hvem skal bestemme?

Det spørgsmål er blevet skærpet af sager uden for podcasten. Roblox forbød for nylig YouTuber Schlep, en skaber, der opbyggede et stort publikum ved at iscenesætte "rovdyrjagt" i Roblox-rum. Hans videoer, som han hævder har ført til flere anholdelser, blev fjernet, og hans konto blev lukket i henhold til Roblox' regler mod selvtægt. Tilhængere har samlet sig bag hashtagget #freeschlep og hævder, at hans arbejde fremhævede fejl i virksomhedens egne systemer. For dem lød det som en fejllæsning af øjeblikket at høre den administrerende direktør kalde rovdyrskrisen for en "mulighed" få dage efter at have afskåret en af de mest synlige, om end kontroversielle, vagthunde.

Det juridiske pres vokser også. Law By Mike, en populær YouTuber og praktiserende advokat, har offentligt signaleret planer om at lægge sag an mod Roblox på grund af påståede huller i børnebeskyttelsen. Hans engagement er vigtigt, fordi han bevæger sig mellem to verdener: Han forstår mekanikken i platformsstyring og taler til det samme publikum af forældre og teenagere, der behandler Roblox som et socialt fællesskab. Sammen med de statslige og føderale retssager udvider hans fremstød den front, hvor Roblox skal forsvare sine resultater.

I Hard Fork-interviewet forsøgte Baszucki at flytte fokus fra krisestyring til langsigtet arkitektur. Han beskrev det nye system til estimering af ansigtsalder - en videoselfie, der bruges til at vurdere en brugers alder, før de får lov til at chatte - som endnu et signal i en stak, der også omfatter adfærdsdata og selvrapporteret alder.

"Vi gør allerede en masse ting: Vi har meget, meget gode tekstfiltre; der er ingen billeddeling; vi laver en masse overvågning. Men hvis vi tilføjer endnu et signal, kan det virkelig hjælpe os med at træffe seje beslutninger." - David Baszucki.

Han hævdede, at platformen historisk set har byttet noget vækst ud med sikkerhed ved at filtrere tekst kraftigt og påberåbe sig det gamle meme om Roblox-chat, der kollapsede til "hashtag, hashtag, hashtag", når forbudte ord blev blokeret. Med AI, sagde han, kan filtre blive mere præcise og modstandsdygtige over for fjendtlige taktikker, som f.eks. brugere, der forsøger at indkode kontaktoplysninger gennem kodede sætninger.

Podcasten, der produceres som en del af The New York Times Podcast-portefølje, blev ikke længe i det tekniske spor. Roose fremhævede en rapport fra 2024 fra Hindenburg Research, der beskyldte Roblox for at "gå på kompromis med børns sikkerhed for at kunne rapportere om vækst til investorerne" og pegede på reducerede udgifter til tillid og sikkerhed. Baszucki afviste firmaet med et grin. "Det er sjovt. Lad os fortsætte på den måde," sagde han og bemærkede, at Hindenburg siden var gået konkurs og argumenterede for, at skiftet til AI-anmeldelsessystemer svarer til at gå fra håndbyggede biler til et samlebånd. Pointen, mente han, var ikke at skære hjørner, men at anvende bedre værktøjer.

Denne vægt på AI placerer Roblox i en velkendt kategori. Sociale netværk brugte en stor del af 2010'erne på at love, at automatiserede systemer ville rydde op i misbrug og misinformation i stor skala, men opdagede først hårde grænser for, hvad maskinlæring kan bedømme pålideligt. Roose og Newton mindede Baszucki om den historie. Han svarede ved at insistere på, at Roblox' interne målinger viser, at filtrering og detektion forbedres, efterhånden som nye modeller implementeres, og at platformens "forbløffende" omfang gør den slags automatisering ikke bare effektiv, men nødvendig.

Selv inden for spil er Roblox' moderationsposition under pres. Interesseorganisationer som Women In Games, Out Making Games og BAME in Games offentliggjorde for nylig et åbent brev, hvor de kritiserede virksomhedens udkast til regler for skabere i forbindelse med "følsomme emner". "Roblox' nyligt foreslåede retningslinjer for skabere vedrørende 'følsomme emner' er et tilbageskridt for både kreativ udfoldelse og social retfærdighed", lød det i brevet, der advarede om, at man ved at behandle emner som ligestilling, reproduktive rettigheder og raceretfærdighed som valgfrie eller risikable "følsomme" zoner risikerer at begrave historier, der betyder noget for unge spillere. - Women In Games, Out Making Games og BAME in Games.

Denne kritik fokuserer ikke på rovdyr eller alderskontrol, men den taler til den samme underliggende bekymring: Hvem sætter grænserne for, hvad unge brugere kan se og diskutere, og hvis komfort disse beslutninger tjener.

Hard Fork-samtalen flyttede til sidst til Polymarket, en kryptovaluta-baseret forudsigelsesplatform, som Baszucki roste som et stærkt informationssignal. Da Roose halvt i spøg spurgte, om han nogensinde ville lægge et forudsigelsesmarked ind i selve Roblox, svarede Baszucki bekræftende og erkendte derefter den juridiske kompleksitet. Da han blev spurgt, om det ville være en "forfærdelig idé" at gøre forudsigelsesmarkeder til et spil for børn, svarede han:

"Jeg synes faktisk, det er en strålende idé, hvis det kan gøres på en pædagogisk måde, der er lovlig... bare et spil, der hedder Dress to Impress Predictor, hvor det ikke er et forsøg på at få fat i børnenes penge eller noget i den stil. Det ville jeg være en stor fan af." - David Baszucki.

For en virksomhed, der allerede er i søgelyset for, hvordan den behandler mindreårige, vil ideen om at bygge en gamificeret forudsigelsesmotor i Roblox, selv uden direkte økonomiske indsatser, være svær at adskille fra bredere debatter om loot boxes, spillemekanik og digital tvang.

På flere tidspunkter bemærkede Newton, at samtalen føltes anspændt. Baszucki insisterede på, at han ikke var frustreret, men kun overrasket over, at fokus forblev på sikkerhed i stedet for lettere brancheemner, og beskrev gentagne gange Roblox' position som en "situation med stort ansvar", der også er en "utrolig mulighed". Han afviste billedet af en administrerende direktør, der bruger sine dage på at kigge sig over skulderen, og hævdede, at virksomheden har været forebyggende med hensyn til sikkerhed "fra dag 1" og endda stoppede væksten i de første uger for at opbygge grundlæggende moderationsværktøjer.

Den selvtillid fortsatte til slutningen af ROBLOX CEO Interview, hvor Roose stillede et personligt spørgsmål: om Roblox ville være sikkert nok, når hans egen lille søn bad om at spille det. Baszucki gik længere end et simpelt ja.

"Roblox er en fantastisk platform lige nu for dit barn," sagde han og tilbød at vise interne målinger under tavshedspligt, hvis det var nødvendigt, og tilføjede, at forældre fortsat er "den ultimative dommer over ansvar." - David Baszucki.

Svaret indfanger virksomhedens holdning i miniature. Roblox positionerer sig selv som værende på forkant med udviklingen, allerede mere sikker end mange andre, og bruger allerede værktøjer, som andre med tiden vil tage til sig. Det uløste spørgsmål er, om den selvvurdering stemmer overens med erfaringerne fra familier, der har set grooming- eller udnyttelsessager dukke op på platformen, eller fra skabere og fortalere, der siger, at deres egne advarsler blev fejet til side, indtil retssager og overskrifter tvang en reaktion frem.

Intet af dette sletter, hvad Roblox har opbygget. Platformen har en vedligeholdende rolle i den bredere online-spiløkonomi: Den er både en kreativ værktøjskasse og et massivt socialt knudepunkt, hvor børn lærer, hvordan online-samfund fungerer på godt og ondt. Hard Fork-episoden viser, hvor skrøbelig den position kan være, når tilliden vakler. Baszuckis bemærkninger introducerede ikke nye fakta om Roblox' sikkerhedssystemer, men de afslørede, hvordan virksomhedens ledelse prioriterer sine opgaver. Innovation, skala og langsigtet platformsvision er i centrum; klar anerkendelse af skade er tættere på kanten.

Læs også, Roblox overgår 100 millioner aktive brugere dagligt, en milepæl, der understreger, hvor hurtigt platformens publikum er vokset, og hvorfor enhver beslutning om sikkerhed, moderation og politik nu har konsekvenser langt ud over et enkelt ROBLOX CEO Interview.