Upozornění: Následující text je mou osobní teorií a subjektivním pohledem na aktuální technologické trendy. Cílem článku je nabídnout analytický pohled k zamyšlení a diskuzi, nikoliv prezentovat nezvratná fakta.

V dnešním článku se podíváme na jedno z nejaktuálnějších témat, a to na AI a pravdivost. Na sociálních sítích se přibližně před dvěma lety začal objevovat AI generovaný obsah – jako první to byly obrázky a v posledních měsících se přidala videa. Tento obsah bývá (ne vždy, ale velmi často) nízké kvality, což ale není ten zásadní problém. Tím, co řešíme a řešit budeme, jsou fake news. Ty zde byly vždy, ale AI jim pomohla nabýt na autenticitě, ať už generováním obrazu a audia, nebo možností perfektně cílit texty pomocí jazykových modelů. Tyto nástroje dávají dezinformátorům velkou moc manipulovat davy.

Jeden z následků rozmachu AI, který očekávám, je vznik jakéhosi filtru obsahu a médií na internetu. Tento filtr by podle mě měl vytvořit hlubokou pomyslnou propast mezi kvalitním a nekvalitním obsahem. Mezi ten kvalitní budou patřit uznávaná média, tvůrci s velkým dosahem a autority, jako jsou vlády. To ovšem může způsobit silnou centralizaci médií, a proto bude důležité vytvářet platformy, kde budou moci svobodně tvořit běžní lidé. V opačném případě hrozí vznik informačních monopolů a s nimi spojená tvrdá cenzura.

Tento filtr také zásadně ztíží možnost se prosadit. Pokud jste chtěli uspět například před pěti lety, vašimi konkurenty byli lidé. Dnes, pokud se chcete prosadit jako tvůrci (například krátkých videí), už nebojujete jen s lidmi, ale právě s umělou inteligencí. Druhou částí filtru bude obsah, který nemusí být nutně nekvalitní, ale není „uznávaný“. Půjde o obsah tvořený AI, tzv. „brainrot“, ale i lidskou tvorbu, která se nedokázala prosadit. Většina obsahu na internetu bude brzy patřit právě do této druhé skupiny a podíl ověřené lidské stopy bude klesat. Tímto jevem se částečně zabývá i Teorie mrtvého internetu.

Existence tohoto filtru může zapříčinit i problémy některých platforem. Nejvíce ohrožené jsou podle mě sociální sítě jako Instagram nebo TikTok, které stojí na krátkých videích – tedy formátu, který AI generuje nejčastěji. Pokud tyto sítě nebudou schopny efektivně filtrovat lidskou tvorbu od té syntetické, budou dost možná čelit změně svých základních fundamentů a vizí. Tyto platformy byly původně navrženy jako vyvážené sítě, kde lidé obsah konzumují i tvoří. S příchodem AI se však poměr tvůrců ku konzumentům rapidně zmenšuje.

Osobně si nemyslím, že je tento filtr negativní. Vnímám ho jako poměrně pozitivní proces, který lidem umožní konzumovat obsah tvořený skutečnými lidmi. Nejsložitější výzvou bude samotné rozpoznávání. Identifikovat AI obsah bude stále těžší, proto se cesta spíše obrátí: bude nutné jasně označovat a certifikovat lidský obsah, možná za pomoci autorit, podobně jako je tomu u vydávání knih.

Pokud se ptáte, kdy tento proces započne, odpověď zní: už začal. Nedokážu říct přesný moment, možná to bylo s první vlnou AI na sociálních sítích, ale vsadím se, že ho registrujete i vy – například tím, že důvěryhodnost informací na sociálních sítích se v posledním roce rapidně propadla.