ChatGPT bude odhadovať vek používateľov na základe digitálnej stopy

V digitálnom svete je bežné, že pri registrácii do rôznych služieb je potrebné uviesť dátum narodenia. Tento údaj však často nie je overovaný, čo umožňuje deťom a tínedžerom falšovať svoj vek. Spoločnosť OpenAI, ktorá stojí za populárnym chatbotom ChatGPT, sa snaží tento problém vyriešiť zavedením nového systému predpovedania veku, ktorý sa opiera o analýzu správania používateľov.

Nový systém bude neustále monitorovať interakcie používateľov, pričom sa zameria na jazyk, ktorý používajú, ako aj na čas, kedy sa do služby prihlasujú. Algoritmus sa pokúsi zistiť vek používateľa na základe lexikálnej analýzy, pričom zohľadní faktory ako slovná zásoba, gramatika a štruktúra viet. Týmto spôsobom sa ChatGPT pokúsi odlíšiť tínedžerov od dospelých, a ak systém usúdi, že používateľ je mladší ako 18 rokov, automaticky sa prepne do konzervatívneho režimu.

V tomto režime bude chatbot obmedzovať generovanie obsahu, ktorý by mohol byť nevhodný pre mladších používateľov, vrátane tém ako sú sexualita, násilie či vulgarizmy. Cieľom je zabezpečiť, aby sa mladí používatelia mohli bezpečne zúčastňovať na interakciách s technológiou bez rizika vystavenia toxickému obsahu. Napriek tomu, že predpovedanie veku nie je presnou vedou a môže dôjsť k omylom, OpenAI ponúka možnosť odvolania sa voči rozhodnutiu AI, ak by systém nesprávne obmedzil prístup k obsahu.

Ak bude používateľ nesprávne klasifikovaný, bude musieť preukázať svoju plnoletosť zaslaním selfie fotografie, ktorá poslúži na biometrické overenie veku. Tento nový prístup nahrádza doterajší model, ktorý bol založený na jednoduchom uvádzaní dátumu narodenia, čo sa ukázalo ako neefektívne. Analýza správania používateľov je tak presnejšia a ťažšie sa obchádza, čo zvyšuje ochranu detí online.

Podľa OpenAI tento systém predstavuje významný krok vpred v súlade s globálnymi normami na ochranu detí, ako sú britský Online Safety Act a európske regulácie digitálnych služieb. Proaktívne identifikovanie neplnoletých používateľov umožní firmám lepšie filtrovať nevhodný obsah, čím sa zníži potreba plošnej cenzúry pre dospelých. Tento prístup je pre používateľov menej invazívny a nevyžaduje okamžité overovanie totožnosti, čo by mohlo odradiť mnohých z registrácie.

Behaviorálna analýza beží na pozadí a zasahuje len v prípade, že vznikne podozrenie, čím sa zabezpečuje rovnováha medzi bezpečnosťou mladých používateľov a komfortom dospelých. Nový systém teda ponúka inovatívny a efektívny spôsob, ako zlepšiť bezpečnosť online prostredia pre všetkých používateľov.