Hlubiny moře, mělčiny AI

O hloubce se moc nemluví. Je to koncept, který nám protéká jako písek mezi prsty. Co označujeme jako hluboké? Jak poznáme hlubokou konverzaci, hlubokou myšlenku, hluboké umění?

Hluboký les je takový, ve kterém se dá zabloudit a ztratit cestu. Hluboký les není jen rozlehlý nebo komplexní — jeho kvalita se mění s tím, jak se do něj noříme. V hlubokém lese žijí bytosti z pohádek a mýtů. Baba Jaga nemá svoji chatrč na kuří nožce na okraji lesa, perníková chaloupka nestojí na první mýtině — obě jsou v hloubi hvozdu. Doputuje k nim jen někdo—někdo, kdo zabloudil, nebo někdo, kdo důkladně hledá. I když třeba přesně neví, co.

Hluboký les je temný, neboť ostré světlo hloubce nepřeje. V hlubokém lese se můžeme ztratit, ale nakonec se z něj zase vynoříme. Někdy to ovšem trvá měsíce či roky. A vynoříme se proměnění, bohatší o nevšední zkušenosti. Vynoříme se poučenější a moudřejší.

V hlubokém lese ovšem také můžeme něco ztratit. Můžeme ztratit svoje mladší, naivní Já, jako Jeníček a Mařenka, kteří si mysleli, že všechny babičky jsou hodné a lze jim věřit na slovo, a že sladký perníček uprostřed lesa je zadarmo.

V angličtině je hluboký „deep“. „The deep“ je ale také moře. Moře je hluboké, protože v dávných dobách lidé nevěděli, kde končí, a co je za ním. Představovali si konec Země, kde moře přepadalo přes okraj do vesmírných hlubin. Odvážlivci, kteří vyráželi na moře, nevěděli ani kam jedou, ani jestli se dokážou vrátit.

Moře je, samozřejmě, hluboké i fakticky. Když se koupeme na volném moři, zejména není-li úplně klidné, jímá nás bázeň. Nese a objímá nás mocný živel, který se rozevírá dolů, do hlubin, jež nás tak trochu děsí. Instinkty v nás se bouří — nevíme, co tam dole, pod námi, je. Fantazie nám vykresluje obrovské chobotnice z Verneovek, které dokázaly hravě potopit i celou loď.

Hluboké rozhovory se nemusejí týkat věcí, o nichž se běžně nemluví. Rozjívená reality-show hvězdička líčící barvité detaily své plastické operace prsou může šokovat, ale hluboká být nemusí. Porno nikdy není hluboké, a ani milování není hluboké vždy. Hluboký rozhovor má pomalé tempo, otázky a odpovědi střídá ticho. Hloubku mu dává právě to, že odpovědi nepřicházejí okamžitě, že účastníci rozhovoru, i posluchači, jsou otázkami vedeni do neprobádaných končin. Hluboký rozhovor je takový, ze kterého odcházíme proměněni, protože jsme si uvědomili něco důležité, co předtím tonulo v mlze pouhého tušení. Šťasten ten, kdo má takový rozhovor aspoň jeden do týdne.

Hloubka je krásně cítit u uměleckých děl. Srovnejme tuto romantickou krajinku od Marca Ricci:

s touto krajinkou od Pabla Picassa:

Co dělá první hlubokou, a druhou mělkou, až schématickou? Není to jen perspektiva a jemná práce se světlem a stínem. Je to kouzlo nedopovězeného, čaro naznačeného. Ta první krajinka víří pocity a podněcuje fantazii. V té druhé už nic víc, než co lze vidět na první pohled, není. Ta první je branou k něčemu „za ní“, branou, kterou musí projít každý sám, ale právě to je na ní tak lákavé. Tu první krajinku si každý musíme ve své mysli dotvořit. Ta druhá krajinka jsou zavřené dveře, které nelze otevřít, protože nikam nevedou.

O hlubokých pravdách se říká, že se poznají podle toho, že i jejich opak je pravdou. Zatímco v myšlenkových mělčinách zuří líté boje „kdo s koho“, v myšlenkové hloubce mezi protiklady panuje respekt, ba spřízněnost. Protiklady jsou vždy spojeny jeden s druhým v harmonii hlubšího řádu. Erb Nielse Bohra to vyjadřuje jasně: contraria sunt complementa. Malý je malým jen v přítomnosti velkého, moudrý moudrým jen v kontrastu s prostoduchým. Protiklady rozevírají prostor, ve kterém se odehrává Hra stvoření. Jen struna ideálně vypnutá mezi kolíčkem a hmatníkem krásně zní. Příliš volná struna zvuk nevydá, příliš napnutá struna praskne.

Hloubka je tam, kde jsou věci jedinečné, nedopovězené, neostré, tekoucí, cítěné a žité. Protože hluboké věci si musíme sami dotvořit. Hloubka chybí tam, kde se o věcech jen mluví a sbírají se o nich standardizovaná data. Hloubka chybí tam, kde je příliš ostré světlo, kde jsou jen disjunktní kategorie, a kde nezbyl vůbec žádný prostor pro interpretaci.

Naše společnost tragicky trpí nedostatkem hloubky. HR, které má být primárně o vztazích, se digitalizuje, a opírá čím dál tím více ne o živé lidi a diskusi s nimi, ale o číselná data. Naše problémy řeší bezduší chatboti a voiceboti. Firmy dnes měří tolik metrik, že nemají čas o nich přemýšlet. Evidence-based (na důkazech založené) přístupy v sociologii, ekonomii, psychologii a medicíně zcela zastínily živého člověka, který byl kdysi středobodem jejich zájmu. Za posledních několik desetiletí masivně narostl objem specializované terminologie ve vědeckých oborech, zejména směrem k podstatným jménům a jejich řetězovým spojením. Z toho, jak o věcech přemýšlíme a píšeme, se vytrácí měnlivost, procesuálnost a nedokončenost. Už nechceme věci spolu probrat, chceme „dosáhnout clarity (jasnosti)“. Už nechceme věci sdělovat tak, jak opravdu jsou, chceme „zlepšit transparentnost v komunikaci“. Jako by šlo ne o průběžný akt, ale o jakousi konečnou definitivu. V pracovních inzerátech se nám zabydlily jazykové perly typu „koordinátor strategie navýšení výkonu“. Kdo si pod tím dokáže představit něco živě konkrétního, hmatatelného, tomu rád zaplatím večeři...

Vrcholem ironie naší doby je to, že podcasty nazvané Deep talks vede člověk, který má problém pochopit jen trochu složitější myšlenku, a který si s oblibou hluboké věci zjednodušuje do dětských malůvek (nic proti těm podcastům, mnohé jsou velmi fajn, jen málokterý je skutečně „deep“…).

Belgický psycholog Mattias Desmet ve své knize Psychologie totalitního myšlení (The Psychology of Totalitarianism) vysloveně varuje před ztrátou hloubky. Společnost, která nevyrůstá ze sdíleného substrátu smyslu; společnost, jež je jako plyn složená z do sebe náhodně narážejících izolovaných individuí; společnost oloupená o hluboký společný étos, je společností nejzranitelnější vůči totalitě. Protože v odčarovaném světě lidé ochotně zaprodají svou duši každé ideologii, která je aspoň na chvíli sjednotí do revoluční masy.

AI je všechno, jen ne hluboká. Je rychlá, skoro nekonečně rozlehlá, ale mělká. Je to dáno jednak zásadním zjednodušením trénovacích dokumentů (myšlenky, které postrádají detaily, ztrácejí jedinečnost, a proto i hloubku), a jednak něčím, čemu se ve statistice říká regrese k průměru. Děti geniálních rodičů nejsou více, ale obvykle méně geniální; děti nadmíru vysokých rodičů jsou o něco menší. Stejně tak i AI: kdykoliv má při generování textu šanci utéci někam do neprozkoumaných informačních vod, kdykoliv má šanci vydat se skutečně originálním myšlenkovým směrem, další vygenerované slovo v pořadí ji strhne zpět k šedivému průměru.

Nedávno vyšla studie MIT, která srovnávala eseje napsané studenty bez pomoci AI a s její pomocí. U mnohých témat byla variabilita esejí vytvořených pomocí AI výrazně menší než u esejí, které psali lidé. Naopak dvě eseje, z nichž jednu napsal člověk na dané téma s pomocí AI, a druhou bez pomoci AI, byly skoro vždy značně rozdílné. To odpovídá tomu, co už se ví o AI, která generuje obrázky: ve výstupech AI se ztrácí košatost a výrazová bohatost. AI trénovaná opakovaně na svých vlastních výtvorech DEGENERUJE A HROUTÍ SE. Nemělo by tohle být varování, pro nás, lidi?

Eseje napsané AI byly neosobní směsí klišé a rádoby oživujících detailů. Jeden z učitelů angličtiny, který eseje hodnotil, k tomu napsal (lehce upraveno ze strojového překladu):

Přihoďme k tomu jinou studii, která ukazuje že AI je masivně hodnotově vykloněna směrem k západním společnostem za současného upozadění jiných kultur. A přihoďme i to, o čem se moc nemluví, neboť se to jen tuší: AI je určitě vykláněna směrem nejen ke komerčním, ale i sociálně-inženýrským zájmům svých tvůrců a investorů.

Máme tu technologii, která je zdánlivě neutrální a stimulující, ale ve skutečnosti zužuje a zplošťuje myšlení. Nejen proto, že myšlení outsourcuje — to už je riziko docela známé a diskutované. Ale i proto, že ho činí uniformním a mělkým, ne co do obsahu, ale CO DO STRUKTURY A FORMY. A také proto, že nás nepozorovaně, ale o to účinněji, indoktrinuje.

Jistě, pokud jde o prompty, jsme my lidé takřka neomezeně kreativní. Když ale to, co nám AI odpoví, je vždy odpověď z jedné a téže „úrovně vědomí“ — notabene úrovně, která není příliš rozvinutá a která je ideologicky zabarvená — je nám naše kreativita platná, jak mrtvému spacák. Ti nejkreativnější z nás, všechna čest, vdechnou hloubku i básním náhodně tahaným z klobouku; na LSD může být zdrojem hlubokého vhledu klidně i Medvídek Pů :-). Jenže všichni tuto schopnost nemáme. Doufat, že nám ji AI pomůže rozvinout, považuji za bláhové. Hloubku nelze nahradit šíří, bez ohledu na její bezbřehost.

Můžeme proto AI brát jako osobní psychologický test: dokud nám připadá nápaditá, dokud jsme oslněni její encyklopedickou informační šíří a argumentační pohotovostí, dotud frčíme na levé mozkové hemisféře, která zná jen mělčiny. Povrchnost AI je vidět/cítit jen z pozice pravé hemisféry, která jediná vnímá hloubku.