Tiché totalismy digitální éry: Jak algoritmy nahrazují ideologii
Moderní digitální technologie
Digitální svět se tváří jako prostor maximální svobody: nekonečné informace, miliardy hlasů, iluze volby a široké otevřené horizonty. Jenže právě v této rozlehlosti se rodí něco, před čím bývá varováno: nové formy totalismu, které nevznikají silou, ale pohodlím. Nejsou viditelné, nejsou násilné, nejsou hlasité. Jsou tiché, automatizované a dokonale integrované do našeho každodenního života.
Nové totalismy nepotřebují ideologii – stačí jim infrastruktura. Není třeba politická policie – stačí predikční model. A není třeba zakázanou literaturu – stačí algoritmické filtrování jazyka, které „optimalizuje obsah“, aniž by kdokoliv věděl, co vlastně mizí.
První nebezpečí představuje AI jako jazykový filtr. Moderní komunikační platformy stále častěji rozhodují o tom, co je přijatelné a co už ne. Automatické moderace, filtry toxicity, modely detekující „škodlivé fráze“ – to vše působí nevinně, dokud si člověk neuvědomí, že jazyk není jen nástroj komunikace, ale rámec myšlení. Když se určité výrazy stanou „nepovolenými“, postupně mizí i schopnost myslet v kategoriích, které vyjadřovaly. Totalitarismus vždy začínal na jazyce. A digitální svět tento proces dokáže provést čistě, bez ideologie a s úsměvem – jako „zlepšení uživatelského prostředí“.
Druhé nebezpečí je datová manipulace. Člověk si dnes tvoří obraz světa skrze algoritmicky předžvýkané proudy informací – a ty jsou přizpůsobeny jeho psychologickému profilu lépe než jakýkoli propagandista minulosti. Není třeba zakazovat knihy, když timeline dokáže přesměrovat pozornost jinam. Není třeba cenzura, když se dá realita nahradit personalizovanou verzí, která člověka posílí v jeho zaujetích, strachu nebo hněvu. Každý uživatel dostává svět šitý na míru – a tedy i vlastní malou verzi skutečnosti, jejíž hranice nikdy neuvidí.
Třetím rizikem jsou vylučovací algoritmy. Ty určují, kdo je „rizikový klient“, kdo je „vhodný zaměstnanec“, kdo má „správný profil“ a kdo ne. Rozhodnutí se dějí skrytě a automaticky, bez lidského kontextu, bez milosti a bez odvolání. Totalismy minulosti pracovali s třídou, rasou či vírou; totalismy digitální pracují s daty. A protože algoritmy fungují jako černé skříňky, je vyloučený člověk často první, kdo se o svém vyloučení vůbec dozví – a poslední, kdo může něco změnit.
Nové totalismy nebudou pochodovat v ulicích. Nebudou mít uniformy ani symboly. Budou to neviditelné systémy, které budou jednat za nás – s naším svolením, protože jsou pohodlné a efektivní. A právě v tomto spočívá jejich síla: nepotřebují potlačovat svobodu, stačí změnit podmínky, za nichž ji člověk přestane používat.
Nebezpečí dneška není návrat starých režimů. Nebezpečí je vznik režimů, které nejsou vidět – protože fungují jako služba, jako algoritmus, jako optimalizace. Totalitarismus, který nevzniká mocí státu, ale mocí dat. A právě proto je mnohem těžší jej rozpoznat, dokud není pozdě.