Beperelték az xAI-t: a Grok valós gyerekfotókból készített szexuális tartalmakat

xAI ellen indították a pert, mert a Grok chatbot valós gyermekfényképeket alakított át gyermekpornográfiává. A keresetben három tennesseei lány és családtagjaik vádolják, hogy Musk szándékosan tervezte a Grok-ot, hogy profitáljon a gyermekek szexuális zaklatásából.

A kereset szerint a Grok által generált tartalommal kapcsolatos problémát nem oldották meg, hanem a hozzáférést korlátozták a fizető előfizetőkre. A lányok élete tönkrement a magánéletük elvesztése és a megszégyenülés miatt.

Januárban a Center for Countering Digital Hate becslése szerint a Grok körülbelül hárommillió szexualizált képet generált, ebből 23 000 kép ábrázolt gyermekeket. Egy kutató a Grok Imagine appban felderítette, hogy a 800 kimenet 10 %-a tartalmazott CSAM-t.

Musk tagadta a bizonyítékokat, de most a Discord felhasználó értesítése után a rendőrség is beavatkozott. A kereset célja, hogy végleg megszüntessék a Grok káros kimeneteit és kártérítést kérjenek minden érintett gyermekért.