Roblox verandert via AI chats van gebruikers in 'meer respectvolle taal'
Het populaire online gameplatform Roblox gebruikt AI om chats van gebruikers, waar niet toegestane woorden in voorkomen, door 'meer respectvolle taal' te veranderen. Dat heeft het bedrijf zelf aangekondigd. Volgens Roblox moet 'real-time rephrasing' voor vloeiende en beschaafde gesprekken zorgen. Wanneer gebruikers niet toegestane woorden gebruiken worden die nu veranderd in hashtags. Roblox claimt dat dit ervoor kan zorgen dat chats lastig te volgen zijn.
Met 'real-time rephrasing' zal Roblox voortaan geen hashtags meer tonen, maar de boodschap van de gebruiker in 'meer respectvolle taal' veranderen, die volgens het platform dichter bij de oorspronkelijke bedoeling van de gebruiker ligt. "Real-time rephrasing helpt om gameplay en gesprekken gaande te houden en stuurt het taalgebruik richting wat gepast is", zegt Rajiv Bhatia van Roblox. Het platform laat gebruikers weten wanneer tekst is aangepast. Het filter is alleen beschikbaar in "in-experience" chats tussen gebruikers waarvan de leeftijd is gecontroleerd en die in dezelfde leeftijdsgroep zitten.
Dat zal vervolging van probleemgebruikers veel lastiger maken.
Als je wilt dat je gebruikers zich voldoende fatsoenlijk gedragen dan moet je in mijn ogen niet het bericht corrigeren maar het gewoon blokkeren, en iemand ook direct laten merken dat je het blokkeert en waarom. Iemand die dan "Hurry the fuck up!" roept merkt meteen dat die zelf niet opschiet als die "the fuck" gebruikt, en leert dan heel snel om dat al in te slikken voor die het opschrijft.
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.
Product Owner / Senior Security Officer
TU Eindhoven (TU/e) is een inter-nationaal vooraanstaande technische universiteit, gelegen in het hart van de Brainport-regio. Als Product Owner / Senior Security Officer geef jij richting én werk je aan de technische basis die dit ecosysteem draaiende houdt: een veilige, robuuste IT-omgeving die klaar is voor de toekomst.
Digital Designer
Ben jij een Grafisch vormgever, UI/UX-designer, Game-artist of gewoon een ‘self-proclaimed creative genius’, en op zoek naar een unieke en uitdagende baan waar je al je creativiteit in kwijt kan? Dan ben je bij Certified Secure aan het juiste adres! Je werkt samen met onze security developers aan onze Gamified Cybersecurity Challenges.
