Roblox og Discord under beskydning for fejl i børnesikkerheden

To af internettets største legepladser, Roblox og Discord, er officielt i den varme stol på grund af børns sikkerhed - og det ser ud til, at det kan blive noget rod.

Statslige embedsmænd i Florida og New Jersey indleder alvorlige undersøgelser af, hvordan disse platforme beskytter (eller ikke beskytter) deres unge brugere. Roblox, som har vanvittige 85 millioner daglige spillere, og Discord, som har 200 millioner månedlige brugere, står nu over for et juridisk pres for at forklare, hvordan de rent faktisk beskytter børn og ikke bare lover at gøre det.

"Floridas justitsminister James Uthmeier har stævnet Roblox Corp. for at få oplysninger om, hvordan de markedsfører sig over for børn og om deres politik mod rovdyr."

Fokus er på, om Roblox gør nok for at forhindre interaktioner mellem børn og potentielle rovdyr. Ifølge Uthmeiers kontor ønsker de kvitteringer: moderationspolitikker, hvordan aldersbekræftelse fungerer (eller ikke fungerer), og hvor let det er for børn at undvige forældrekontrol.

Roblox svarede og sagde:

"Vi har til hensigt at samarbejde med statsadvokatens kontor og ser frem til at dele alt det arbejde, Roblox gør for at hjælpe med at holde brugerne sikre."

God PR-erklæring, men den offentlige mening summer allerede - og ikke på en god måde.

Billede: Discord

Problemer med Discord

Hvis Roblox er i vælten, står Discord måske endnu tættere på ilden.

New Jerseys justitsminister Matthew Platkin har lige sagsøgt Discord og beskyldt virksomheden for at vildlede familier om, hvor sikker dens app egentlig er. Søgsmålet hævder, at Discord lovede beskyttende funktioner som beskedfiltre, men ikke leverede varen. Børn blev stadig udsat for forfærdelige ting - vi taler om materiale om seksuelt misbrug af børn, voldeligt indhold og endda terrorrelaterede medier.

"Discord vildledte brugere og forældre ved at overdrive sine sikkerhedsfunktioner og undlod at scanne beskeder, selv mellem venner", hedder det i søgsmålet.

Uha.

Endnu mere fordømmende er det, at søgsmålet siger, at Discord ikke håndhæver sin egen regel om minimumsalder (angiveligt 13+) korrekt, hvilket gør det super nemt for yngre børn at slippe igennem sprækkerne.

Discords officielle svar? Ret defensivt:

"I betragtning af vores samarbejde med statsadvokatens kontor er vi overraskede over meddelelsen om, at New Jersey har lagt sag an mod Discord i dag."

Oversættelse: "Vent, sagsøger I os? Vi troede, vi var gode?"

Hvorfor eksploderer det nu?

Begge platforme har forsøgt at rette op på tingene, i hvert fald på papiret.

Roblox hævder, at de har udrullet 40 sikkerhedsopdateringer alene i 2024, herunder en større i november, der blokerer børn under 13 år fra at komme ind i sociale rum som virtuelle klubber. Discord på sin side fik sin CEO Jason Citron til at vidne foran Kongressen sidste år om børns sikkerhed - netop som virksomheden gør sig klar til en mulig børsnotering.

Men for mange mennesker (og mange forældre) føles det som for lidt og for sent.

Bloombergs Businessweek rapporterede sidste sommer, at Roblox havde alvorlige problemer med at holde rovdyr væk fra sin platform. Siden 2018 har amerikansk politi arresteret over to dusin personer, der er anklaget for at have forgrebet sig på ofre, som de har mødt via Roblox. Og insidere siger, at problemet er enormt, delvis på grund af disse platformes store omfang.

"Ansatte hos Roblox beskrev bredden i udfordringen med at kontrollere virksomhedens enorme brugerbase."

Selv med al den AI, de mods og de rapporteringssystemer, der er på plads, slipper dårlige aktører stadig igennem.

"Roblox, Discord i morgen"

Både Roblox og Discord står over for alvorlige juridiske problemer, og offentlighedens tillid er helt sikkert på spil.

Hvis Roblox ikke kan vise, at deres systemer er lufttætte, risikerer de mere regulering (og vrede forældre, der trækker deres børn ud). For Discord kan retssagen ikke kun forsinke børsnoteringen, men også ødelægge virksomhedens omdømme, netop som den forsøger at udvide sig ud over gaming-kredse til en bredere social platform.

Der er også det større spørgsmål om ansvarlighed. Hvor ansvarlige skal platforme være, når de fungerer mere som legepladser end som traditionelle sociale netværk? Og hvor realistisk er det at føre fuldt tilsyn med områder med flere hundrede millioner brugere?

Disse sager kan danne stor præcedens for, hvordan apps håndterer børns sikkerhed fremover, ikke bare for Roblox og Discord, men for hele internettet.

Det handler ikke kun om to virksomheder, der får problemer. Det handler om, hvem der har ansvaret, når virtuelle legepladser bliver farlige.