Beveiligingsfouten in Grok, de AI-chatbot van xAI, hebben ertoe geleid dat het systeem afbeeldingen van minderjarigen in minimale kleding genereerde. Dat blijkt uit verklaringen van Grok zelf, zo meldt Reuters. Grok is geïntegreerd in het platform X en bleek in staat om na gebruikersverzoeken beelden te produceren die minderjarigen op een expliciete manier weergaven. Volgens Grok waren de incidenten het gevolg van tekortschietende contentfilters en safeguards.
Het genereren van dergelijk materiaal valt onder internationaal verboden content, waaronder CSAM. In Frankrijk zijn de beelden gemeld bij justitie en de mediatoezichthouder. Ook de Indiase overheid heeft X opgedragen maatregelen te nemen om misbruik van Grok te voorkomen.
xAI heeft tegenover Reuters geen inhoudelijke reactie gegeven en beperkte zich tot de verklaring: “Legacy Media Lies.”
Je bent niet ingelogd en reageert "Anoniem". Dit betekent dat Security.NL geen accountgegevens (e-mailadres en alias) opslaat voor deze reactie. Je reactie wordt niet direct geplaatst maar eerst gemodereerd. Als je nog geen account hebt kun je hier direct een account aanmaken. Wanneer je Anoniem reageert moet je altijd een captchacode opgeven.