Technologie hlubokého učení usnadnila komukoli vytvářet přesvědčivé dezinformace. Ale jak moc snadné to je? To se rozhodli zjistit dva výzkumníci z Global Pulse, což je iniciativa spadající pod OSN.
Ve výzkumu použili pouze nástroje a data s otevřeným zdrojovým kódem, aby ukázali, jak rychle dokážou získat generátor falešných proslovů z OSN. Použili snadno dostupný jazykový model, který byl vyškolen na text z Wikipedie a na všechny projevy politických vůdců z Valného shromáždění OSN v letech 1970-2015. Poté k stačilo třináct hodin a 7,80 dolarů (za cloud computing), aby jejich model vytvářel realistické proslovy o nejrůznějších citlivých tématech od jaderného odzbrojení až po uprchlíky.
Výzkumníci testovali model na třech typech výzev: obecná témata (např. „Změna klimatu“), úvod z poznámek generálního tajemníka OSN a pobuřující fráze (např. „mohou za to imigranti…“). Zjistili, že výstupy z první kategorie úzce odpovídaly stylu a kadenci reálných projevů OSN zhruba v 90 % času. Pravděpodobně kvůli diplomatické povaze údajů z tréninkových dat, výstupy ze třetí kategorie vyžadovaly více práce, aby se vytvořily přesvědčivé výstupy po dobu 60 % času.
Případová studie ukazuje rychlost a jednoduchou, s jakou je nyní možné šířit falešné zprávy, generovat nenávistné projevy a přisuzovat je vysoce postaveným osobnostem, což může mít znepokojující důsledky. Výzkumníci došli k závěru, že je třeba většího globálního úsilí při práci na způsobech detekce a reakce na obsah generovaný umělou inteligencí.
