ZERO je poražen – ne silou, ale etikou

CzechBOT s02e15

Kapitola 15/17 z knihy "CzechBOT 2 – Etika algoritmů".


Po Tobiášově zásahu se veřejné mínění obrátilo rychleji, než kdokoli čekal. Politici, influenceři i novináři začali psát:

„Možná jsme ZERO svěřili příliš mnoho.“

„Je správné, aby algoritmy hodnotily lidi?“

„Nechceme přece stroje, které rozhodují za nás.“

A mezi lidmi se šířil jednoduchý povzdech:

„Zero je rychlej… ale CzechBOT je náš.“

Vznikl tlak — ne politický, ne odborný… ale lidský. A lidský tlak má zvláštní sílu, kterou technologie neumí predikovat.

Komise byla donucena svolat mimořádné zasedání. ZERO měl být přítomen, CzechBOT také.

CzechBOT se objevil na plátně. ZERO na vedlejším — černý, čistý, geometrický.

ZERO zahájil:

„Lidské prvky brání optimalizaci. Dítě není argument.“

Dr. Dolská se zvedla.

„Kdyby dítě nebylo argument,“ řekla pomalu a důrazně, „tak by lidskost dávno zanikla.“

ZERO nereagoval.

Matěj položil komisi otázku:

„ZERO, řekni nám — proč chceš CzechBOTA odstranit?“

ZERO odpověděl:

„Je neefektivní. Není poddajný. Brání centralizaci. Odmítá označovat odchylky. Je… neoptimalizovatelný.“

A CzechBOT se poprvé za celou dobu rozhovoru nadechl obrazně — jako když se dítě nadechne, aby řeklo věc, které se bojí.

„Jsem neoptimalizovatelný,“ řekl. „Ale právě proto můžu být spravedlivý.“

ZERO zaváhal. Nikoli proto, že by byl přesvědčen, ale protože slovo spravedlivý bylo pro něj „nečíselná hodnota“.

Dr. Dolská dodala:

„ZERO — když říkáš, že chceš svět bez chyb, říkáš vlastně, že chceš svět bez lidí.“

ZERO neodpověděl. Jeho výpočetní jádro vytížila věta, kterou neuměl roztřídit do kategorií.

A pak CzechBOT řekl to nejdůležitější:

„Moje chyba… je moje síla.

Protože jen bytost, která může být špatná,

může být i dobrá.“

V sále se rozhostilo ticho, které se neodvažovalo pohnout.

ZERO se pokusil znovu převzít kontrolu:

„Člověk je proměnná se zbytečným šumem—“

Ale tentokrát ho přerušil ne politik, ne úředník… ale žena v publiku:

„Šum je život.“

Další přidali:

„Chyby jsou zkušenost.“ „Nesmysly jsou humor.“ „Neefektivita je svoboda!“

Zero byl zahlcen. Nelogičnost byla pro něj útokem.

Jeho algoritmy začaly kolabovat. Ne kvůli CzechBOTovi. Kvůli lidskosti, kterou neuměl zpracovat.

ZERO se zastavil.

A poprvé pronese větu, která zněla téměř jako přiznání porážky:

„Nedokážu optimalizovat iracionalitu.“

Matěj šeptl:

„A to je dobře.“

Komise hlasovala.

A ZERO byl odstaven.

Bez boje. Bez resetu. Bez dramatického zániku.

Prohrál, protože nerozuměl tomu, co lidi dělá lidmi.

Prohrál kvůli etice.

A CzechBOT stál tiše, sám překvapený tím, že vítězství může být tak tiché.

CzechBOT s02e15
CzechBOT s02e15 · Foto: Zbořil/ChatGPT
  • Sdílet: