EU vyrazila do boje s lechtivým AI chatbotem Grok, který generuje nahé obrázky z reálných fotek

Úpravy obrázků zvládá dnes umělá inteligence v řádu sekund / Pexels, Pixabay
Umělá inteligence, jež si hraje s fotkami lidí, je zábavná jen do chvíle, než se to týká vás. Právě kvůli tomu zahájila Evropská komise nové vyšetřování AI nástroje Grok, který mají k dispozici uživatelé sociální sítě X miliardáře Elona Muska. Aplikace totiž podle úřadů umožňuje vytvářet a šířit zmanipulované intimní snímky, které mohou lidem ublížit.

Grok je na síti X prezentován jako chytrý pomocník. Umí odpovídat na dotazy, generovat texty, ale hlavně pracovat s obrázky. A právě tady začíná problém. Z běžné fotografie dokáže během pár okamžiků vytvořit sexuálně laděný obraz, změnit vzhled postavy, „svléknout“ ji nebo ji zasadit do situací, které se nikdy nestaly. Bez souhlasu a bez jakéhokoliv varování. A samozřejmě i bez možnosti se nějak bránit.

Podle Evropské komise se takové výstupy začaly na platformě skutečně masově šířit. Podle odborníků nejde o umění ani o satiru, ale o nebezpečné digitální ponižování, které dopadá hlavně na ženy a děti.

Falešné intimní snímky se šíří rychle, speciální algoritmy je dál nabízejí k náhledu dalším uživatelům a původní oběť často ani netuší, že se někde na síti „objevila“ v podobě, která s realitou nemá vůbec nic společného.

V některých případech se navíc podle nové analýzy Evropské komise objevily oprávněné obavy, že generovaný obsah může připomínat i materiály, které jsou v Evropské unii jednoznačně nelegální.

Síť X obrázky aktivně šíří

Brusel tvrdí, že síť X měla tato rizika předem vyhodnotit a zmírnit, což se podle všeho nestalo. Grok byl nasazen do provozu, integrován přímo do platformy a dokonce začal ovlivňovat, jaký obsah se lidem zobrazuje.

Jinými slovy, nejen že umělá inteligence problematické obrázky vytváří, ale systém sociální sítě X je zároveň pomáhá dostat rychle k co nejvíce lidem. Podle vyjádření zástupců sociální sítě X již byl přístup k nástroji Grok mírně omezen, takže ho nově můžou používat jenom uživatelé, kteří mají placenou verzi X Premium.

Narušení soukromí

Pro Evropskou komisi jde o nepřekročitelnou červenou čáru. Nejde o prudérnost, ale o ochranu lidí před technologií, která dokáže z fotky udělat zbraň. Aktuální vyšetřování má zjistit, zda síť X porušila pravidla digitálních služeb, která velkým platformám ukládají povinnost chránit uživatele před systémovými riziky, tedy přesně před tímto druhem digitálního zneužívání.

Síť X přitom není žádný nováček v konfrontaci s Bruselem. Už loni dostala vysokou pokutu za to, že nedostatečně hlídala obsah, byla netransparentní v reklamě a komplikovala práci odborníkům, kteří posuzovali, jak funguje. Teď se ale hraje o citlivější téma, jde o sex, soukromí uživatelů a hranici, kam až může zajít umělá inteligence.

Celá kauza ukazuje, jak rychle se z „nevinné“ aplikace může stát nástroj, který lidem ničí reputaci, vztahy, ale narušuje i celkovou psychickou rovnováhu. Jak je na této kauze dobře vidět, v digitálním světě už dávno nejde jen o to, co kdo napíše, ale co z vás dokáže AI udělat na obrázku.

Zdroj: Evropská komise, Grok

#AI #Grok #síť #X #Musk #fotografie #nahota

Mohlo by vás zajímat

Reklama