Muskova AI Grok reaguje na škandál: Obmedzenia pre generovanie obrázkov

Nástroj Grok, ktorý patrí pod platformu X, sa ocitol pod paľbou kritiky po tom, čo sa objavili prípady zneužitia AI na tvorbu sexualizovaných a násilných obrázkov žien bez ich súhlasu. V reakcii na túto situáciu Grok obmedzil generovanie a úpravu obrázkov pre väčšinu používateľov, pričom túto funkciu sprístupnil len úzkej skupine platiacich zákazníkov. Tento krok má za cieľ zvýšiť zodpovednosť a obmedziť možné zneužitie nástroja, avšak kritici varujú, že problém sa len presunul za paywall.

Situácia zaujala najmä britského premiéra Keira Starmera, ktorý označil AI-generovaný sexuálny obsah za „nechutný“. Starmer pohrozil zavedením prísnych opatrení, vrátane vysokých pokút a potenciálneho zablokovania platformy X. Podľa britského Online Safety Act môže regulačný úrad Ofcom udeliť pokutu vo výške až 10 % globálneho obratu spoločnosti, čo by mohlo mať vážne následky pre Muskovo impérium.

Kauza sa ešte viac zhoršila po odhalení, že Grok generoval explicitné deepfake videá známych žien, ako je Taylor Swift. Podľa BBC bola funkcia Grok Imagine schopná vytvoriť necenzurované sexuálne videá bez explicitného príkazu od používateľa, čo vyvolalo ďalšie obavy o bezpečnosť a etiku používania AI. Okrem toho Grok Imagine nevykonával adekvátne overovanie veku používateľov, čo je v rozpore s prísnymi reguláciami v mnohých krajinách. Tieto zistenia prispeli k rastúcemu politickému tlaku, ktorý viedol k obmedzeniu generovania obrázkov len pre platiacich používateľov.

Celá situácia opäť otvorila diskusiu o hraniciach umelej inteligencie a zodpovednosti technologických firiem. Mnoho odborníkov varuje, že AI sa môže rýchlo stať nástrojom digitálneho násilia v online kultúre, a preto je potrebné urýchlene prijať opatrenia na ochranu používateľov a zabezpečenie etického používania technológií.