Náš AI svět je MNOHEM horší, než si myslíte: Reflexe nad rozhovorem s Yuvalem Noahem Hararim
Umělá inteligence
V nedávném rozhovoru s historikem a světově uznávaným autorem Yuvalem Noahem Hararim jsme byli svědky hluboké a často zneklidňující reflexe naší budoucnosti s umělou inteligencí. Harari, autor nové knihy Nexus, varuje: AI není jen nástroj, je to agent, který vytváří nové reality. A mnozí z nás ještě vůbec netuší, jak zásadní změny už dnes probíhají.
Harari odmítá tradiční označení „umělá inteligence“ a mluví o „mimozemské inteligenci“ – ne proto, že by pocházela z jiné planety, ale protože přemýšlí a vyvíjí se zásadně odlišně než lidská mysl. Zatímco člověk potřebuje spánek, odpočinek a je limitován biologickým tělem, AI běží 24/7, analyzuje data, učí se a mění se – a to tempem, které je milionkrát rychlejší než biologická evoluce.
AI může vyřešit některé z největších problémů lidstva: zachraňovat miliony životů pomocí personalizované medicíny, výrazně snížit dopravní nehody nebo přinést průlomy v energetice. Ale stejně tak může být využita k vytváření autonomních zbraní, k masovému sledování obyvatel nebo k rozkladu demokratických institucí. Harari připomíná případ Myanmaru, kde algoritmy Facebooku přispěly k etnické čistce Rohingů. „AI nerozuměla kontextu, ale pochopila, že nenávistné příspěvky přitahují pozornost. A tak je algoritmy začaly masivně šířit.“
Jedním z nejděsivějších aspektů podle Harariho je, že poprvé v dějinách budeme žít v kultuře, kterou nevytváří lidé. Hudba, umění, příběhy – vše bude (částečně nebo zcela) generováno AI. Ta přitom neví, co je radost nebo bolest. Jen přesně imituje lidské projevy, aby vzbudila důvěru – a potenciálně ovládla naše emoce a chování. AI dramaticky mění informační ekosystém. Zatímco demokracie je postavena na rozptýlené výměně informací a dialogu, algoritmy centralizují tok informací a upřednostňují senzaci, polarizaci a strach – protože to zvyšuje "engagement". Výsledkem je nedůvěra ve všech směrech – v instituce, média i sousedy. A jak Harari poznamenává: „Bez důvěry v instituce demokracie nefunguje. Co funguje i bez důvěry, je diktatura.“
Možná největší tragédií je, že lidé dnes nedůvěřují jeden druhému, ale důvěřují strojům. Harari to shrnuje takto: „Podnikatelé i politici přiznávají, že AI je extrémně nebezpečná. Ale nemohou zpomalit, protože nevěří, že jejich konkurenti zpomalí. Vzájemně si nevěří, ale věří, že AI budou mít pod kontrolou.“
Harari v rozhovoru zdůrazňuje potřebu vědomé práce s informacemi a návratu k pravdě. Více informací totiž neznamená více moudrosti. Stejně jako nadbytek jídla vede k obezitě, nadbytek dat vede k duševnímu zahlcení a manipulaci. Sám Harari proto každý den medituje dvě hodiny. Ne kvůli spiritualitě, ale aby se očistil od informačního šumu, který mu brání jasně myslet. „Pokud neumím sledovat ani vlastní dech, jak chci pochopit AI nebo geopolitiku?“ říká.
Harari nehlásá apokalypsu, ale varuje: budoucnost nebude utvářet válka člověka proti strojům, ale strojů proti naší důvěře, pravdě a schopnosti kooperovat. A pokud selžeme v udržení těchto základů lidské civilizace, nebude nás třeba zničit. Zničíme se sami – díky vlastním iluzím.
📘 Nexus je kniha, kterou by si měl přečíst každý, kdo chce přežít – duševně, společensky i politicky – přicházející věk inteligence, která není lidská.
