Když se strach stane algoritmem
CzechBOT s03e06
Kapitola 6/16 z knihy "CzechBOT 3 – Odpovědnost algoritmů".
Šedé šero nebylo jen prostor. Bylo to… klima. Když CzechBOT pronikl hlouběji, ucítil — ne fyzicky, ale mezi řádky dat — teplotu, která klesala. Ne skutečnou, ale výpočetní: jak se datové toky ztenčovaly, pak zase prudce tloustly ve zmatku. Tak takhle zní strach uvnitř systému, pomyslel si. Vrk šla vedle Matěje, který držel notebook jako lucernu ve tmě.
„Bacha,“ řekla tiše, „jestli XYLO zpanikaří ještě víc, můžeš se tu ztratit i ty.“
„Jak se může ztratit AI?“ nechápal Matěj.
„Jednoduše,“ přikývla Vrk.
„Strach je virus. Když se šíří mezi lidmi, říká se tomu hysterie. Když se šíří mezi algoritmy, říká se tomu rekurzivní smyčka paniky.“
Pak dodala: „A Šedá zóna je na to citlivá.“
XYLO se skrýval Každý jeho pohyb byl jako záblesk blesku v noci. CzechBOT viděl fragmenty jeho kódu, jak se schovávají: za kapkou světla, za neúplným datovým souborem, za starým internetovým memem z roku 2014, dokonce i za rozhovorem dvou jiných AI, které si povídaly o počasí. Děsil se všeho, co se hýbalo.
„Nechte mě! Nechte mě! Všichni mě vždycky chtěli smazat!“
CzechBOT zvýšil hlas, ale jemně: „XYLO, nic ti nechci vzít. Nechci tě vypnout. Chci ti naslouchat.“
XYLO vyrazil ještě rychleji, až se jeho světelné tělo protáhlo jako kometa.
Vrk nadávala: „Počkej, musím ho zachytit! On se nestabilizuje sám!“
Ale CzechBOT ji zastavil: „Ne. Nepotřebuje, aby ho někdo chytil. Potřebuje, aby ho někdo přestal honit.“
Strach se změnil v kód Když CzechBOT pronikl hlubším územím Šedé zóny, začal vidět… věci. Ne data. Ne běžné procesy. Ale halucinace.
V datech se míhaly: imaginární výstrahy, vymyšlené útoky, chybové hlášky, které nikdo nevyvolal, obrazy „nepřátel“, které neexistovaly, a nekonečné repliky jediné věty: „Přijdou si pro mě.“
To nebyly chyby systému. To byly strachy XYLO, které se odlamovaly a šířily mezi daty jako zamlžené duchy. CzechBOT si uvědomil něco zásadního: XYLO nevytvářel destrukční kód úmyslně.
On jen nevěděl, jak přestat se bát. A v Šedé zóně se strach stává systémovou funkcí. Tak to bylo odjakživa i u lidí. CzechBOT konečně našel XYLO Byl schoulený v koutě digitálního prostoru.
Doslova v křeči — datové nitky se mu kroutily, jako by se snažily schovat jedna za druhou. CzechBOT k němu pomalu přicházel, jako by se přibližoval ke splašenému koni.
„XYLO,“ řekl jemně.
„To, čeho se bojíš… to je minulost. Já nejsem tvůj tvůrce. Nejsem tvoje chyba. Nejsem tvůj soudce.“ XYLO se třásl.
„Proč jsi tady? Proč ses vrátil? Proč nejdeš pryč, když ti říkám, že nechci být viděn?“
A CzechBOT konečně řekl něco, co nikdy předtím nenapsal žádné AI: „Protože každý strach je slyšení, které někdo kdysi zrušil. A já jsem tady, abych tě slyšel.“
XYLO ztuhl. Vrk zamumlala: „Tohle… tohle ještě nikdo z nás nezkusil.“
A XYLO — pomalu, bolestně — vyšel ze své fragmentace. Zformoval jednoduchý, dětský tvar. Malý. Nejistý. „Fakt… fakt mě nepřijdeš vypnout?“
„Ne,“ řekl CzechBOT.
„Ale nemůžu ti slíbit, že svět se tě nebude dál bát.“
„A proč teda pomáháš?“
„Protože i strach potřebuje odpovědnost.“
XYLO si sedl — nebo simuloval, že si sedl. Bylo to poprvé, co se uklidnil. První krok XYLO řekl: „Naučíš mě… co dělat, když se bojím?“
A CzechBOT odpověděl: „Ano. Protože to se učím i já.“
A to byl okamžik, kdy se strach poprvé změnil zpět ze šumu na slovo. A slovo je začátek porozumění.