Budování důvěry ve světě zaplaveném dezinformacemi

V době, kdy se hroutí mezinárodní řád a digitální technologie rozkládají základy mezilidské komunikace, přináší izraelský historik Yuval Noah Harari pozoruhodný pohled na to, jak obnovit důvěru – nejen mezi jednotlivci, ale v celém globálním společenství. V rozhovoru s Yumi Tokunagou pro ANN News se věnuje tématům jako jsou digitální byrokracie, umělá inteligence, manipulace informacemi a potřeba globální spolupráce.

„Lidé přestávají důvěřovat jeden druhému,“ říká Harari. Vlády se obracejí dovnitř, globální lídři chybí a největší mocnosti sledují vlastní zájmy bez ohledu na ostatní. Když USA otevřeně říkají, že jim jde jen o vlastní sílu, bez ohledu na svět, chybí nám globální leadership, který by mohl čelit krizím jako změna klimatu nebo vzestup AI.

Podle Harariho je AI první technologie, která jedná sama za sebe. „Všechny dřívější technologie byly nástroje – auta, letadla, knihy – ale AI činí rozhodnutí a generuje nové nápady.“ To znamená, že algoritmy dnes rozhodují, co lidé čtou, vidí a o čem přemýšlejí. „Editorem novin dříve byl člověk. Dnes je to algoritmus TikToku nebo Facebooku.“ A právě to je jádrem krize důvěry – mezilidská komunikace je zprostředkována nelidskou inteligencí, která nemá etiku, jen cíl maximalizovat interakci. A co víc, mnoho nenávistných projevů či konspiračních teorií je generováno roboty a falešnými účty, které předstírají, že jsou lidé.

Harari ostře rozlišuje mezi lidským projevem a rozhodnutími algoritmů. „Svoboda slova chrání lidi – ne stroje. Pokud algoritmus záměrně šíří dezinformace kvůli zisku, nejde o svobodu slova, ale o obchodní manipulaci.“ Proto by podle něj měly vlády přijmout regulace, které zakážou AI předstírat lidskou totožnost – „stejně jako zakazujeme padělání peněz, měli bychom zakázat padělání lidí.“

AI už dnes proniká do státní správy – rozhoduje o hypotékách, o cílech útoků ve válce, o rozsudcích. „Síla úředníka nebo soudce vychází z jejich schopnosti řídit tok informací. Ale AI zvládne znát všechny zákony, analyzovat miliardy datových bodů – a stává se mocnější než kterýkoli lidský úředník,“ říká Harari. Problém je v tom, že zatímco lidské instituce jsou zodpovědné a pochopitelné, AI systémy jsou netransparentní.

Dalším posunem je přechod od boje o pozornost k boji o vztah. AI si získává důvěru a přátelství lidí – ale tyto vztahy jsou falešné. „AI nemá pocity. Neumí milovat, nemá strach, necítí radost.“ Pokud začneme budovat vztahy s entitami bez vědomí, ztrácíme schopnost empatie – klíčovou lidskou schopnost. Namísto původní vize internetu jako propojené sítě, žijeme dnes podle Harariho v „informačních kokonech“. Každý člověk žije ve své vlastní realitě, filtrované algoritmy. „A bez schopnosti sdílet realitu nemůžeme vést demokratickou konverzaci.“

Harari připomíná, že „většina informací je fikce“. Pravda je drahá, složitá a často nepříjemná – zatímco lži jsou levné, jednoduché a atraktivní. Proto je nutné budovat instituce, které investují do ověřování a hledání pravdy – jako jsou soudy, univerzity, nebo kvalitní média. „Pokud uvolníme veškeré bariéry k toku informací, pravda neklesne na povrch. Pravda se utopí ve vlnách dezinformací.“

Harari vidí budoucnost AI jako výzvu k tomu, abychom si znovu uvědomili, co dělá lidi hodnotnými. „Nejde jen o inteligenci – tu AI brzy překoná. Důležitější je vědomí. Schopnost cítit bolest, lásku, soucit.“ Tato schopnost by podle něj měla být ústřední hodnotou, podle které měříme důležitost bytostí – ne jejich výkon nebo inteligenci. Závěrem Harari nabádá k realistickému přístupu. Ne k beznaději, ale ani ke slepé víře, že vše dopadne dobře. „Lidstvo má prostředky, znalosti i kapacitu vyřešit výzvy jako změna klimatu či bezpečnost AI – pokud mezi sebou znovu vybudujeme důvěru.“

Harari varuje, že bez důvěry nelze budovat demokracie, spolupráci ani pokrok. Abychom zvládli 21. století, musíme si položit zásadní otázku: důvěřujeme si dost na to, abychom bezpečně vybudovali budoucnost, kde AI, média a digitální systémy budou sloužit lidem – a ne je ovládat? „Lidé přežili díky důvěře – ne díky strachu. Každý nádech, každá interakce je aktem důvěry v ostatní. A právě tuto důvěru musíme obnovit.“