AI, zpravodajství a věda: tři trendy, které by nás měly znepokojovat
AI, dezinformace a věda
AI už dnes mění vše, co děláme. Mění — a to zásadně — i způsob, jakým vyhledáváme, ověřujeme a zpracováváme informace. Tedy zpravodajství a vědu. Překvapivě však jediné riziko, které je v souvislosti s informacemi a AI zmiňováno, je nárůst dezinformací. Zejména těch sofistikovaných (tzv. deepfakes), jako je třeba realisticky vypadající projev digitálního Putina, v němž vyhlašuje jaderný útok proti Ukrajině. Deepfakes se samozřejmě v nějaké míře vyrojí, ale myslím — stejně jako u dezinformací obecně — že až tak velkým problémem nebudou. Mnohem větší obavy mám z následujících třech věcí, ke kterým může dojít v masovém měřítku.
Moji první obavu je možné nazvat přidaná vrstva iluzí. V moderní společnosti máme málo co z první ruky. Většina našeho vědění není založena na bezprostředním vnímání fyzické reality, ale na zprostředkovaném popisu této reality, okleštěném, zjednodušeném a nezřídka velmi zkresleném. Mezi námi a realitou stojí už dnes několik informačních filtrů, skrz které místy už skoro není vidět. Prvním takovým filtrem jsou masmédia, na jejichž zaujatost, poplatnost mocenským zájmům a „vytváření umělých kauz“ upozornil už Noam Chomsky ve známé knize Manufacturing consent (Výroba souhlasu). Druhým filtrem je wikipedie, informační zdroj první volby, který je ovšem místy zpolitizovaný, až hanba. Třetím filtrem jsou sociální sítě, které nás uzamykají do názorových bublin, jejichž algoritmy upřednostňují senzacechtivé zprávy před těmi důležitými, a jejichž moderační politiky jsou místy dost za hranou. Čtvrtým filtrem je Google, zdaleka nejrozšířenější vyhledávač, jehož kvalita za poslední roky značně poklesla, a který dnes v podstatě neumožnuje dohledat mnoho zdrojů mimo mainstream a placenou reklamu. Nemluvě o očividném ideologickém vychýlení některých výsledků.
ChatGPT a další, multimodální technologie, budou dalším takovým filtrem mezi námi a realitou. Nejde jen o to, že si ChatGPT vymýšlí, či dokonce halucinuje (můj kamarád z něj dokázal vytáhnout podrobná doporučení k chovu psů aljašských vačnatých, včetně oblíbených jmen takových mazlíčků a doporučené stravy, aniž by ovšem takové psí plemeno kdy existovalo). Jde o to, že mu bude široce důvěřováno a s tím, co si vymyslí, bude zacházeno jako s fakty. Masivně pokroucená realita z pera ChatGPT se stane běžnou součástí blogů, novinových článků, studentských prací a dost možná i horkou jehlou šitých vědeckých publikací. Čím více takového šumu informační prostor zaplaví, tím složitější bude zjistit, jak věci doopravdy jsou. Alternativní historie se stane skutečností (viděl jsem ChatGPTí shrnutí historie starého Řecka, které působilo velmi přesvědčivě, ale ve kterém bylo 30 faktických chyb); doufejme, že před kontaminací hloupostmi uchráníme aspoň algebru. ChatGPT prostě vytvoří další vrstvu iluzí, skrz kterou prohlédnou jen ti nejbystřejší a nejvíce skeptičtí. A to nemluvím o chaosu, který nastane, až se na nepřesných a z prstu vycucaných slátaninách začne trénovat další generace LLM modelů. To už se v království kouře a zrcadel úplně zacyklíme.
Moje druhá obava se týká utváření konsensu neboli názorové jednoty. Stalo se módou apelovat na jednotu, ve vědě (viz Covid) i politice. Ovšem tlak na názorovou jednotu zabíjí skutečně vědecké zkoumání, stejně jako kastruje demokracii. Už Thomas Kuhn ve své přelomové knize Structure of Scientific Revolutions (Struktura vědeckých revolucí) vysvětluje, že o konsensu lze mluvit jen v „nudných“ obdobích, kdy se věda soustředí na zkoumání jediného převládajícího paradigmatu. Po určité etapě se začnou hromadit anomálie (nevysvětlitelná pozorování) a věda se přesune do jiné, více tvůrčí fáze, kdy se střetávají konfliktní teorie a panuje značná názorová roztříštěnost. Tato fáze kulminuje nastolením paradigmatu nového, načež se celý cyklus spustí nanovo.
Pokud jde o politiku, věřím že stinné stránky násilně prosazovaného konsensu ve státě s komunistickou historii není třeba nijak zvlášť rozpitvávat.
Ovšem ChatGPT je v umění konsensu přímo mistrem. Ježto informace masivně průměruje, jsou jeho odpovědi většinou pečlivě cizelované, bezkrevné a politicky korektní. Zatajuje marginální názory a vypouští kontroverze (statisticky vzato). To se samozřejmě děje už léta (viz výše zmíněný bias Googlu a Twitteru), ale domnívám se, že ChatGPT tomuto trendu dodá šťávu. Hodně šťávy. Už teď vědci používají ChatGPT pro usnadnění rešerší. Ti svědomití je před publikací manuálně překontrolují, ti línější jen opraví stylistiku. Ale ani ti svědomití nebudou sáhodlouze zkoumat, jestli ChatGPT nevynechal něco zásadního, avšak okrajového. ChatGPT se tak stane amplifikátorem existujícího konsensu, ve vědě i zpravodajství. Hrozí, že realita pozbyde barev a stane se černobílou, rozkostičkovanou, jako ve starém televizním monoscopu.
Moje třetí obava souvisí s tím, jaká opatření budou přijata v odpověď na ChatGPTí halucinování a hrozbu deepfakes. Nelze vyloučit, že velké mediální domy přistoupí k nějaké formě informační certifikace. Podobně jako dnes máme ESG certifikáty, finanční ratingy nebo ekologické štítky na budovách, můžeme se dočkat „onálepkování“ informací. Ostatně přesně po tom volal na poslední konferenci Aspenu profesor Timothy Garton Ash. Takže novinové články z pera IDNES a Seznam zpráv budou mít značku „AI free, ověřená informace“ zatímco menší redakce typu echo24 si takovou certifikaci nebudou moci dovolit. Ostatně velmi obdobný proces můžeme už dnes sledovat právě u oněch ESG certifikací, které zvýhodňují velké firmy oproti malým (když jste firmička o 5ti lidech, která tak tak přežívá, najmout si ESG poradce fakt není priorita).
„AI free, ověřená informace“ zprávy pak budou preferenčně šířeny sociálními sítěmi, na úkor ostatních postů. Ve výsledku se díky AI můžeme dočkat další koncentrace moci, tentokrát na poli informací. Tato koncentrace informační moci dále posílí míru iluzornosti, ve které žijeme, i míru názorové jednoty, která je vynucována. Zahlédnout jemné odstíny reality bude opět o něco obtížnější.
Nic z toho není příliš dobrá zpráva. Ale očekávám i jeden trend, který dobrou zprávou naopak je. Myslím si, že až se ChatGPT a další, ještě pokročilejší technologie, budou používat úplně všude, od škol přes redakce deníků až po kanceláře vědeckých pracovníků, lidé si začnou vážit „human made“ osvětové a zpravodajské práce. Může vzrůst zájem o výtvory nezávislých blogerů, influencerů a podcasterů, kteří si získají důvěru veřejnosti, a kteří budou garantovat, že vše, co píší a natáčí je opravdu jejich vlastní tvorba. Taková tvorba ovšem nebude moci být zadarmo. Je jen na nás všech, jestli budeme ochotni tento anti-AI trend podpořit, stejně jako jsme ochotni podporovat amatérské malíře, šperkařky na mateřské nebo babičky prodávající v metru sněženky. Jinak nás může čekat informační peklo, které si v ničem nezadá s nejhlubším patrem Danteho pekla. To nejhlubší, deváté, patro je totiž zrada a podvod, a situace, kdy už nevíme, co je pravda a co ne, nic jiného než zradou a podvodem není.