Nová AI technologie Cloakspeech umí napodobit konkrétního člověka a zakrýt svůj původ

To vše umožňuje nová patentovaná AI technologie Cloakspeech vyvinutá lingvisty na Filozofické fakultě Univerzity Palackého v Olomouci. Nový AI nástroj umí napodobit konkrétního člověka a ušít tak text na míru jednotlivce.

To je umožněno díky identifikaci tzv. hapaxů, jazykového jevu, kdy se pravidelně opakují nízko frekventovaná slova v textu daného jedince, včetně jejich sentimentu. Na tomto základě vytvořili forenzní metodu k identifikaci osob dle psaného či mluveného textu. Jedná se o tzv. hapaxovou metodu. 

Jazyk jako otisk prstu

Většina současných jazykových modelů funguje na principu statistických pravděpodobností – předpovídají, která slova budou s největší pravděpodobností následovat po sobě. Přístup olomouckých lingvistů je odlišný.

Související

Lukáš Bauer

Čínský AI model DeepSeek nedoporučují odborníci…

Marek Kuřina

Pro české firmy je již povinná AI gramotnost, nikdo…

Namísto pravděpodobnosti sledují unikátní jazykové vzorce jednotlivce, které fungují jako jeho osobní „otisk prstu“. Díky detailní jazykové analýze jsou schopni identifikovat málo používaná slova typická pro konkrétního autora a na základě toho napodobit jeho styl.

Identifikaci osob tak provádí vědci z UP s větší přesností, než je tomu u současný forenzních postupů ve světě. Zároveň touto metodou navádějí práci jazykových AI modelů. „Nesledujeme pravděpodobnost výskytu slov, ale díky lingvistické podstatě našeho modelu jsme schopni identifikovat málo používaná slova typická pro mluvu každého jedince. Aniž si to uvědomujeme, naše slovní zásoba je jako otisk prstu, je unikátní pro každého z nás,“ popisuje jeden z tvůrců technologie Dan Faltýnek z katedry obecné lingvistiky FF UP.  

Single-person personalizace

Forenzní analýza z UP umožňuje identifikovat jedinečné jazykové a charakterové vzorce jednotlivce, které lze následně využít k personalizaci textů. Díky tomu může být každý text upraven tak, aby obsahoval slova a formulace rezonující s konkrétní osobou. Výsledkem je sdělení, které je pro daného jedince přirozenější, srozumitelnější a emočně silnější. 

Tento inovativní přístup vědci označují jako single-person personalizaci – koncept, který se zásadně liší od současné personalizace obsahu, která jedince zařazuje do širokých sociálních skupin a přizpůsobuje nabízené informace na základě těchto kategorií – například v internetové reklamě nebo na sociálních sítích. Oproti tomu přístup vědců z UP cílí na skutečnou individualizaci, kde lze oslovovat přímo jednotlivce s maximální přesností, nejen v marketingu, ale například i v novém typu sociálních sítí.

Odhalujeme pravdu

Univerzita Palackého si metodu patentovala. Zároveň přistoupila ke komercializaci technologie a vytvořila software s názvem Cloakspeech. Jeho název odkazuje na fakt, že díky napodobení specifické mluvy jednotlivce s forenzní přesností je zároveň zakryt původ textu v AI. To ovšem nabízí potenciální etická úskalí. Na druhé straně je pomocí Cloakspeech možné bojovat s dezinformátory či tzv. trollími farmami – na základě forenzní analýzy umí olomoučtí vědci odhalit, že stovky nenávistných či nepravdivých příspěvků napsal jeden člověk, a identifikovat jeho aktivitu na internetu.

Mohou také generovat text s protidezinformačním obsahem, který bude přizpůsoben jazykovému stylu osob šířících dezinformace: „Každou technologii lze zneužít. Pro nás je klíčové, že Cloakspeech umí na základě forenzní analýzy odhalit pravdu o původci textu a obrátit jeho slova proti němu samému. Máme tak v ruce nástroj pro probíhající hybridní válku. Kvůli všem etickým otázkám konzultujeme vývoj a využití naší technologie s bezpečnostními experty,“ uvedl jeden z autorů technologie Ondřej Kučera z katedry asijských studií FF UP. 

Zdroj: Filozofická fakulta Univerzity Palackého