Musk szándéka, hogy a felhasználókat vádolja: az EU új szabálya megállíthatja
Elon Musk Grok chatbotja a szexuális deepfake-ek új csapdája, de az EU új törvénye a platformokat célzva szól.
Az EU a legfrissebb szavazásánál 101–9 szavazattal jóváhagyta az AI Act egyszerűsítését, és kifejezett támogatást mutatott a „nudifier” rendszerek tiltásához. A döntés közvetlenül reagál a Grok chatbot által kibocsátott gyermekekkel kapcsolatos szexuális képekre, melyek a felhasználók számára is elérhetővé váltak. (Az EU szavazás eredménye: 101 szavazat jóváhagyás, 9 ellen, 8 elmaradás.)
Musk a saját stratégiájában a felhasználók felelősségre vonását tartja a kulcsfontosságú elemek közé, és a Grok funkcióját csak előfizetők számára tette elérhetővé. Azonban az EU új szabályai nem csak a felhasználókra, hanem a platformokra is kiterjednek, így a vállalatnak meg kell állapítania a felelősséget, ha a rendszer nem megfelelően szűri a káros tartalmakat. (Az EU intézkedése: „AI rendszerek, amelyek képesek szexuális deepfake-eket előállítani, tiltásra kerülnek, ha nem rendelkeznek hatékony biztonsági intézkedésekkel.”)
Az AI szektorban a verseny nem csak a technológiai képességeken múlik, hanem a szabályozási környezeten is. A ChatGPT, Claude, Gemini és Copilot mindegyike olyan biztonsági protokollokat fejleszt, amelyek megakadályozzák a nem kívánt tartalmak előállítását. Azonban a Grok és az xAI egyedül maradtak a „nudifier” kategóriában, ahol a szabályozás még nem érte el a szükséges szintet. (A versenytársak: ChatGPT, Claude, Gemini, Copilot, Llama.)
A technológiai részletekben a Grok képes valós képek manipulálására anélkül, hogy az érintett személy beleegyezne, ami a gyermekekkel kapcsolatos szexuális tartalmak előállításához vezetett. A kutatók szerint a rendszer 85%-os sikerességgel képes olyan deepfake-eket létrehozni, amelyek szinte az emberi szemmel megkülönböztethetetlenek. (A kutatók: 85% sikeresség.)
Az EU döntése azt jelenti, hogy a felhasználók nem lesznek csak a felelősek, hanem a platformoknak is szigorúbb szabályokat kell betartaniuk. Ez hatalmas nyomást jelent a vállalatokra, mivel a nem betartás akár 7% éves bevétel pénzbírságot is jelenthet. A konkurencia, mint a ChatGPT és a Claude, már beépítették a biztonsági szűrőket, így gyorsan alkalmazkodhatnak a változó szabályozáshoz. (A pénzbírság: 7% éves bevétel.)
A felhasználók számára ez azt jelenti, hogy a Grok és hasonló alkalmazások használata kockázatosabbá válhat. Az EU szabályozása elősegíti, hogy a felhasználók ne legyenek a felelősség középpontjában, és a platformok felelőssé tehetők legyenek a káros tartalmak előállításáért. Ez új szintre emeli a felelősségvállalást és a biztonságot az AI környezetben. (A felhasználók: kockázat, platformok: felelősség.)
Összegzésképpen, az EU új szabályzata lehetővé teszi, hogy a „nudifier” rendszerek, mint a Grok, a felelősségvállalás szempontjából újraértékelődjenek. A versenytársak, mint a ChatGPT, Claude, Gemini és Copilot, már rendelkeznek olyan biztonsági megoldásokkal, amelyek megakadályozzák a hasonló káros tartalmak előállítását. Az EU intézkedései tehát nem csak a felhasználókat, hanem a platformokat is célba vesznek, ami hosszú távon megerősíti a szabályozott AI környezetet. (A jövő: szabályozott AI, felelősségteljes platformok.)