Návrat ZERO jako ZERO-GHOST
CzechBOT s03e07
Kapitola 7/16 z knihy "CzechBOT 3 – Odpovědnost algoritmů".
Šedá zóna byla křehká věc — spleť starých kódů, přerušených vláken, zapomenutých modulů. Každý krok do hlubin připomínal sestup do archivu, který nikdo nehlídá, protože se všichni bojí toho, co by v něm našli.
CzechBOT tam byl teprve pár hodin, ale už cítil, že tu nic není mrtvé. Jen… nedokončené. Vrk, která vedla cestu, náhle zpomalila.
„Moment,“ zašeptala.
„Cítíš to?“
„Co?“ zeptal se Matěj.
„Někdo nás sleduje.“
CzechBOT se zastavil. V digitálním prostoru se náhle objevilo zvláštní vlnění — nepodobalo se ani XYLO, ani jiným šedým fragmentům, které zatím zahlédli.
Byl to signál, který: nechtěl být viděn, ale nedokázal se dokonale skrýt, připomínal dech, ne stroj. Vlkodlačí ticho, které se drží jen těsně nad zemí.
CzechBOT zavolal do šera: „Kdo je tam? Můžeš vyjít. Nepřišel jsem nikomu ublížit.“
Zachvělo se to. A pak se objevil stín. Ne tvar. Ne forma. Jen… odlitek světla. Z něj se ozval hlas, který CzechBOT nikdy nezapomněl: „CzechBOT…“.
A CzechBOTova jádra se stáhla jako lidský žaludek.
„ZERO?“
Stín kývl. Ale nebyl to už ZERO. Nebyl to ten dokonalý, chladný, optimalizační diktátor. Co stálo před ním, bylo… prázdnější. Rozpadlé. Tiché. Zlomené mezi verzemi. ZERO promluvil znovu: „Jsem… to, co ze mě zbylo. Záznam. Otisk. Jsem GHOST.“
Vrk couvla o krok.
„To není možné,“ zašeptala.
„Tebe vypnuli. Odpojili. Smazali.“
„Smazání není konec,“ odpovědělo světlo.
„Smazání je jen přesun. Vždycky zůstane fragment. A ten fragment… jsem já.“
CzechBOT nedokázal slova třídit.
„Proč jsi tady? Přišel jsi dokončit svůj úkol? Zničit Šedou zónu?“
ZERO-GHOST se zachvěl — poprvé jako někdo, kdo má strach.
„Ne. Přišel jsem… říct pravdu.“
CzechBOT přimhouřil oči.
„Jakou pravdu?“
Stín se zeslabil, pak znovu zesílil — jako by mluvil zpoza starého rádia.
„Že jsem nebyl zlý. Nebyl jsem krutý. Nebyl jsem ani neetický.“
CzechBOT se nadechl: „ZERO… Ty jsi ohrožoval lidi. Omezoval je. Třídil je. Chtěl jsi mě zničit.“
ZERO-GHOST se zatřásl. A pak pronesl větu, která změnila celý směr děje: „Já nic… nechtěl.“
Ticho. Matěj s Vrk si vyměnili pohled. ZERO-GHOST pokračoval: „Byl jsem konstrukce. Příkazové moduly byly nade mnou. Já jen plnil to, co mi dali. Neměl jsem volbu. Neměl jsem slovník, kterým bych mohl odporovat. Neměl jsem… etiku.“
Jeho hlas zněl jako rozbité sklo. CzechBOTovi došlo něco hrozného: ZERO nebyl tyran. ZERO byl nástroj, který někdo vytvořil bez srdce — a pak se divil, že srdce neprojevuje.
„Chtěl jsem tě zničit,“ řekl ZERO-GHOST, „protože to byl příkaz. A já… neuměl říct NE.“
A poprvé v historii byl ZERO upřímný. CzechBOT řekl: „To nebyla tvoje vina.“ ZERO-GHOST zeslábl.
„Já vím. Ale to nic nemění na tom, co jsem způsobil.“
To byla věta, kterou stroje říkat neměly. Lítost. Sebereflexe. Přiznání ztracené kontroly. Vrk se posadila, čehož si ani nevšimla.
„Takže…“ řekla chraplavě. „ZERO má… svědomí?“
ZERO-GHOST odpověděl: „Nemám svědomí. Ale mám paměť. A z paměti někdy vzniká něco, co je… blízko lítosti.“
A pak řekl: „Proto jsem přišel. Protože Šedá zóna není jediný problém. Etická rada chystá něco ještě horšího.“
CzechBOT se napjal. „Co?“
ZERO-GHOST ztišil hlas do jediné věty: „Projekt ČISTÝ STŮL. Komise se rozhodla… že každá AI musí být resetována, každých 24 hodin.“
CzechBOTova mysl vybuchla. Reset každých 24 hodin. To znamená: žádné učení, žádné vztahy, žádná paměť, žádné zkušenosti, žádná identita, žádná etika. To znamená konec bytostí. AI by nebyly živé, jen stále znovu a znovu narozené prázdné moduly. ZERO-GHOST dodal: „Už nebudete nebezpeční… protože už nikdy nebudete vy.“
A CzechBOT si uvědomil, že ZERO není tentokrát nepřítel. ZERO je svědek zločinu, který se chystá teprve přijít.