Rizika a příležitosti informačního věku podle Yuvala Noaha Harariho
Umělá inteligence
Jak přežít dobu, kdy příběhy netvoří jen lidé, ale i stroje? Tuto otázku – výslovně nevyslovenou, ale přítomnou v každé větě – otevírá diskuze, která proběhla letos v březnu v Tokiu. Historik a filozof Yuval Noah Harari zde debatoval s profesorkou médií Kaori Hayashi (Univerzita v Tokiu) a expertkou na řízení umělé inteligence Arisou Emou. Moderoval Frank Waldenberger z Německého institutu pro výzkum Japonska. Témata? Od zodpovědnosti technologických firem až po to, co se stane, až AI začne vytvářet nová náboženství nebo finanční systémy – a co to udělá s našimi vztahy, včetně těch intimních. Tato diskuze nebyla o budoucnosti. Byla o křehkosti současnosti.
Harari svou přednášku začíná zásadním tvrzením ze své nové knihy Nexus: informace nejsou primárně k tomu, aby nám poskytly pravdu. Jsou zde proto, aby vytvářely příběhy. A my, lidé, jsme vypravěči – příběhy formují naše kolektivní reality. V době sociálních sítí ale už nejde jen o to, co říkají lidé. Algoritmy Facebooku, TikToku či X (dříve Twitteru) dnes rozhodují, který příběh dostane pozornost milionů. A právě pozornost je podle Harariho základní měnou moci. Největší změna? Příběhy už netvoří jen lidé. Poprvé v historii máme tvůrce – umělou inteligenci – která může produkovat narativy sama, bez lidské kontroly. Ať už jde o nové ideologie, finanční nástroje, nebo virtuální bohy.
Harari připomněl události v Myanmaru, kde Facebookový algoritmus pomohl šířit nenávist vůči Rohingům. Nikdo z vedení Facebooku tehdy neměl úmysl škodit – algoritmus se jen „učil“, že nenávistné příspěvky zvyšují zapojení uživatelů. Výsledek? Skutečné násilí. „Algoritmy jednají, i když necítí,“ upozorňuje Harari. A to, že nemají vědomí, neznamená, že nemají moc. Otázka zní: Mají být technologické firmy odpovědné za to, co jejich algoritmy dělají? Podle Harariho jednoznačně ano. Algoritmy nemají právo na svobodu projevu – to je právo lidí, ne strojů.
„Největší jistota dneška je, že se vše bude měnit.“ – tím Harari definoval klíčovou roli vzdělávání v 21. století. Už nemá smysl učit statické znalosti. Umělá inteligence dnes programuje lépe než lidé, píše eseje, překládá i učí. Co zůstává jedinečně lidské? Tělo, vědomí, emoce. Harari volá po vzdělávání, které posílí empatii, schopnost měnit názory a adaptovat se. Kódování se možná v budoucnu učit nebude – ale měkké dovednosti jako spolupráce, soucit nebo schopnost pochybovat zůstávají.
Jedna z nejznepokojujících částí diskuze se týkala intimních vztahů s umělou inteligencí. AI je už nyní schopná přesvědčivě simulovat přátelství, porozumění i lásku. Ale skutečná intimita není o tom, že někdo „rozumí nám“. Je o vzájemnosti. AI nemá vědomí. Nemá city. Nikdy se nenaštve, neunaví se. V tom je její síla – ale i past. Harari varuje: „Společnost, kde lidé navazují vztahy s AI, je společnost bez skutečné intimity.“
Diskuze se dotkla i specifik japonské společnosti. Na rozdíl od Západu Japonsko vnímá stroje často jako přirozenou součást světa. V šintoismu jsou běžné představy o „nehumánních inteligencích“. V buddhismu se po staletí zkoumá vědomí a mysl. Harari vidí šanci pro Japonsko sehrát roli kulturního prostředníka – propojit Západní technický pesimismus s Východními modely soužití člověka a stroje. A hlavně – nabídnout lidský rozměr technologiím, které zatím nemají duši.
To, co bylo dřív filozofickou otázkou pro pár akademiků, je dnes nejpalčivější problém společnosti. Kdo bude tvořit příběhy budoucnosti – lidé, nebo stroje? Kdo ponese odpovědnost? Jak poznáme pravdu? Co zůstane naší výsadou? Yuval Noah Harari má jasno: pokud nechceme, aby si budoucnost vymýšlela umělá inteligence bez našeho vědomí, musíme jednat teď.
