Digitálne obchody profitujú na neetických aplikáciách

Dlhé roky sme považovali digitálne obchody za bezpečné prostredie, kde sa aplikuje prísna kontrola obsahu. Najnovšia analýza však ukazuje, že realita je oveľa temnejšia. Aplikácie využívajúce umelú inteligenciu na takzvanú 'nudifikáciu' sú voľne dostupné a umožňujú komukoľvek vziať fotografiu oblečenej osoby a digitálne ju vyzliecť bez jej vedomia.

Tento problém sa začal intenzívne diskutovať, najmä po kritike Elona Muska a jeho AI modelu Grok, ktorý generoval sexualizovaný obsah. Investigatíva TTP odhalila, že stačí zadať jednoduché kľúčové slová ako 'undress' alebo 'nudify', aby sa objavil dlhý zoznam aplikácií navrhnutých na tvorbu nedobrovoľnej pornografie. Tieto aplikácie dosiahli viac ako 700 miliónov stiahnutí, čo naznačuje, že ide o masový problém.

Finančný aspekt je ešte znepokojivejší. Odhaduje sa, že tieto aplikácie generovali tržby vo výške 117 miliónov dolárov. Apple a Google, ktoré si účtujú provízie z nákupov, tak priamo profitujú z šírenia zneužívajúceho obsahu. Zakaždým, keď niekto zaplatí za digitálne 'vyzlečenie', technologické giganty si pripíšu svoj podiel na zisku, čo vyvoláva otázky o ich etických praktikách a zodpovednosti.

Ľudské náklady na túto technologickú benevolenciu sú nevyčísliteľné. Tieto nástroje môžu zmeniť bežné fotografie na zbraň, čo vedie k obťažovaniu a ponižovaniu obetí. Ľudskoprávne organizácie varujú, že 'AI nudifikácia' je formou sexuálneho násilia, ktorá najviac postihuje ženy a neplnoleté osoby. Psychologické dopady na obete sú devastujúce, keď vidia svoje telo v pornografickom kontexte bez svojho súhlasu.

Napriek prísnym pravidlám, ktoré Apple a Google na papieri majú, sa tieto aplikácie naďalej nachádzajú v obchodoch. Problémom je zlyhávajúce vymáhanie. Obchody síce občas zmažú niektoré aplikácie, no vývojári rýchlo reagujú a vracajú sa s mierne upravenými produktmi. Automatizované kontrolné systémy nezvládajú rýchly vývoj generatívnej umelej inteligencie, čo naznačuje, že prítomnosť aplikácie v oficiálnom obchode už nie je zárukou jej bezpečnosti či etickosti. Kým regulátori nezakročia, naše digitálne identity zostávajú zraniteľné.