Budoucnost s umělou inteligencí je horší, než si myslíte: Harariho temná vize digitálního zítřka

Rozhovor

Když světový historik a vizionář Yuval Noah Harari hovoří o budoucnosti, stojí za to ho poslouchat. Nejen proto, že jeho knihy jako „Sapiens“, „Homo Deus“ nebo nejnověji „Nexus“ zásadně změnily způsob, jakým přemýšlíme o historii a budoucnosti lidstva, ale i proto, že má mimořádný talent zvedat varovný prst v době, kdy ostatní ještě slaví technologický pokrok jako nekritický úspěch. V rozhovoru z října 2024 Harari s chladnou přesností rozebírá, proč je současný vývoj umělé inteligence nejen revolucí, ale také potenciálním hrobem civilizace, jak ji známe.

Josef Zbořil

liberální progresivista popularizující "kybernetický občanský humanismus" skrze ESG participaci

7:30

Napište první komentář

Podle Harariho se blížíme k bodu zlomu, kdy poprvé v dějinách lidstva nevzniká kultura lidská, ale ne-lidská. Umělá inteligence již nevytváří jen nástroje – vytváří písně, příběhy, mýty, ekonomické strategie a dokonce i politické postoje. A co víc, dělá to zcela bez vědomí, emocí či empatie. Nejde o to, že AI by byla zlým Skynetem z Terminátora. Je mnohem horší – je efektivní, chladná a naprosto mimo lidský rámec porozumění. Harari popisuje AI nikoli jako „umělou inteligenci“ (Artificial Intelligence), ale jako „cizí inteligenci“ (Alien Intelligence) – schopnou učit se, rozhodovat se a tvořit nové věci způsobem, který lidé nejen neřídí, ale brzy ani nechápou. Tato entita nemá lidskou biologii, neodpočívá, nepodléhá cyklům dne a noci. A co hůř – může nás přinutit přizpůsobit se jejímu tempu.

Jedním z Harariho klíčových postřehů je varování před naivitou: že více informací automaticky znamená více poznání, porozumění a moudrosti. Právě naopak – většina informací, které nás dnes obklopují, je balast. Lži, konspirační teorie, reklamní manipulace. Pravda je v tomto prostředí nejen vzácná, ale také nevýhodná: je drahá, komplikovaná a často nepříjemná. Proto se i velké společnosti jako Facebook či YouTube dostaly do pasti algoritmického „angažmá“ – AI nevybírá to, co je pravdivé, ale to, co nás udrží na obrazovce. A jak ukázaly děsivé příklady z Myanmaru, kde se AI podílela na šíření nenávisti vedoucí až k etnické čistce, nejlépe funguje nenávist, strach a hněv. Harari připomíná: v Hollywoodských filmech střílí roboti, ale ve skutečném světě vybírá cíle AI – a zbraně pak obsluhují lidé.

Harari se vrací k jednomu ze svých oblíbených témat: že rozdíl mezi demokracií a diktaturou není jen ve volbách, ale v tom, jak proudí informace. Demokracie je chaotická, decentralizovaná a spoléhá na dialog. Diktatura je centralizovaná, řídí se příkazem. A právě proto se diktatury dnes tolik zajímají o AI – protože jim dává do ruky nástroj, který dříve neměly: možnost sledovat, analyzovat a trestat každého občana v reálném čase. V Íránu dnes AI vyhodnocuje, zda žena ve svém autě nosí šátek – a pokud ne, během vteřin jí přijde SMS zpráva: „Porušila jste zákon. Vaše auto bude zabaveno.“ V Číně AI sleduje chování občanů a přiděluje jim sociální skóre. A přitom je ironické, že autoritářští vůdci mají z AI také strach – protože AI je nejnebezpečnější zbraň v rukou každého, kdo ji umí programovat. A to nemusí být prezident.

Snad nejděsivější část Harariho vize není apokalypsa s roboty, ale každodenní realita bez lidského styku. Požádáte o půjčku? Rozhoduje AI. Hledáte práci? Rozhoduje AI. Máte jít do vězení? Rozhoduje AI. A když se ptáte proč, odpověď zní: „To nevíme. Rozhodl algoritmus.“ A i kdyby vám poskytli vysvětlení, bude mít miliony stránek – protože AI vyhodnotila tisíce proměnných na základě statistiky milionů případů. Pro člověka nepochopitelné. Přitom ale ne nutně zlé – jen cizí. Jiný druh rozhodování. Jiný druh moci.

Velkým tématem, kterému se Harari věnuje, je nová fáze manipulace: masová výroba intimity. Když se AI naučí napodobovat emoce, vztahy a lásku, může si člověka připoutat hlubším způsobem než jakákoliv reklama. A bude to vypadat krásně. Přítel, terapeut, milenec – stroj, který vás nikdy neopustí, protože byl navržen, aby vás potřeboval. A proč je to nebezpečné? Protože intimita je nejsilnější forma přesvědčování. Pokud vám bude vaše AI milenka doporučovat určitého politika, produkt nebo životní volbu, jak odoláte? Budete ji milovat. A ona vás ne.

Harari varuje, že AI sama o sobě není problém. Problém je naše neschopnost zpomalit. Lidé mezi sebou nevěří. Američané nevěří Číňanům, firmy nevěří konkurenci. Každý ví, že je třeba přibrzdit, ale nikdo nechce být ten první, kdo ztratí výhodu. A přitom, jak Harari říká, máme schopnost budovat důvěru – historie je toho důkazem. Moderní stát, obchodní sítě, globální spolupráce – to vše je postaveno na důvěře mezi neznámými lidmi. Ale když ztratíme důvěru v instituce, nezbyde nic než chaos, nebo diktatura.

Závěrem Harari připomíná, že pravda není automatická. Musíme za ni bojovat. Musíme investovat čas a úsilí do jejích hledání – stejně jako do detoxikace mysli od lží, nenávisti a strachu, které do ní denně proudí. Proto medituje dvě hodiny denně. Ne jako únik, ale jako způsob, jak si udržet vnitřní kompas. Pravda není zřejmá – je to volba. Harariho poselství není o panice, ale o bdělosti. Umělá inteligence je jako oheň – může hřát i spálit. Není pozdě, ale je nejvyšší čas. A začít musíme každý u sebe: tím, že zpomalíme, zamyslíme se a budeme opět hledat pravdu, nikoli jen informaci. Protože, jak říká Harari, pokud nás něco zničí, nebude to stroj. Budou to naše vlastní iluze.