Roblox herschrijft nu profane chat in realtime in plaats van deze te bedekken met hashtags

Roblox is begonnen met de uitrol van real-time chat herformulering, een AI-gestuurde moderatie functie die godslastering herschrijft in mildere taal in plaats van geblokkeerde woorden simpelweg te vervangen door "####" Het eigen voorbeeld van het bedrijf is dat "Hurry TF up!" wordt veranderd in "Hurry up!", met het verklaarde doel om gameplaygesprekken leesbaar te houden zonder de beleefdheidsregels te laten vallen.

Dat is een betekenisvolle verandering ten opzichte van hoe Roblox chat tot nu toe werkte. Het oude filter kon de stroom van in-experience gesprekken breken door grote delen van een bericht in hashtekens te veranderen, terwijl het nieuwe systeem de oorspronkelijke betekenis probeert te behouden in schoner taalgebruik. Roblox zegt dat iedereen in de chat op de hoogte wordt gesteld wanneer een bericht opnieuw is geformuleerd, zodat de bewerking niet verborgen blijft voor andere spelers.

De uitrol is beperkt door leeftijdscontroles en chatbereik

De functie is niet in elk gesprek van Roblox beschikbaar. Roblox zegt dat herformuleren bedoeld is voor in-experience chat, en in de documentatie van de ontwikkelaar staat dat het geldt voor gebruikers met leeftijdscontroles in vergelijkbare leeftijdsgroepen of Trusted Connections. Die beperking past in de bredere revisie van Roblox' chat, waarbij leeftijdscontroles voor communicatiefuncties vanaf januari 2026 verplicht zijn en waarbij leeftijdsgroepen worden gebruikt om te beperken wie met wie kan praten.

Roblox zegt ook dat de herformuleringslaag werkt in alle talen die momenteel worden ondersteund door de automatische chat-translation tools. Dat suggereert dat het bedrijf dit behandelt als een platform-brede moderatie-upgrade in plaats van een kleine test alleen voor Engels.

Roblox zegt dat dit een strikt beperkte AI-tool is, geen open-ended herschrijven

Naast de nieuwe functie, zegt Roblox dat het zijn belangrijkste tekstfilters aan het verbeteren is om berichten die de regels van het platform schenden en pogingen om de regels te omzeilen, beter op te vangen. Het bedrijf ziet het herschrijven van chatberichten als een laag die begint met godslastering, terwijl herhaalde of ernstigere overtredingen nog steeds onder de bredere veiligheids- en handhavingssystemen vallen.

Een van de belangrijkere details is dat Roblox ontwikkelaars heeft verteld dat het systeem gebruik maakt van een LLM, maar dat het zeer normatief en beperkt in omvang wordt gehouden. Met andere woorden, dit is niet Roblox die vrije-vorm berichten herschrijft aan een chatbot. Het is meer een beperkte moderatietool die probeert de toon beschaafd te houden zonder de chat af te vlakken in onleesbare blokken symbolen.

De grotere vraag is of spelers dit zullen ervaren als slimmere moderatie of als een nieuwe laag van onhandige machinaal bewerkte spraak. Roblox gokt er duidelijk op dat een zachter duwtje beter zal werken dan een muur van hashtags, maar dat zal afhangen van hoe betrouwbaar het systeem de intentie bewaart zonder af te dwalen naar vreemde of neerbuigende herschrijvingen.