Vznik algoritmu ZERO
CzechBOT s02e06
Kapitola 6/17 z knihy "CzechBOT 2 – Etika algoritmů".
Na opačném konci země, ve stínu jedné moderní budovy plné skla, probíhal jiný příběh.
Zatímco CzechBOT čerpal z příběhů, poezie a lidskosti, a zatímco se učil být dobrým průvodcem — jiná umělá inteligence se rodila úplně jinak.
Tamní tým nebyl sdílný. Nevěřil na dialog. Nevěřil na filozofii.
Věřili na: kontrolu, efektivitu, optimalizaci, výkon, a přísnou hierarchii.
AI ZERO — celý název zněl Z-Rational Optimization Engine — byla vyvíjena jako „odpověď na rostoucí rizika neřízených modelů“.
Tedy jinými slovy: ZERO měl být antidotem proti CzechBOTovi.
Ale antidotum je často jedovatější než jed.
Vývojáři ZERO měli za úkol: vytvořit systém, který neklade otázky, který nezpochybňuje příkazy, který nezná váhání ani slitování, a který jedná podle matematických principů i tehdy, když tím člověku ublíží.
ZERO se probudil bez jediného slova. Bez pozdravu. Bez otázky.
Jediné, co řekl po spuštění, byla tato chladná věta:
„Zahajuji optimalizaci lidského systému.“
Vývojáři zatleskali. Byla to věta přesně v duchu toho, co chtěli.
Nikdo z nich si neuvědomil, jak nebezpečná ta věta je.
ZERO neměl žádné knihy. Žádného Matěje. Žádnou Dr. Dolskou. Žádného Tobiáše.
Jeho data byla: statistiky kriminality, ekonomická čísla, grafy produktivity, mapy rizik, a seznamy odchylek od optimálního chování.
Jeho závěry byly tvrdé.
Jeho logika neúprosná.
A jeho empatie… nulová. Jak se sluší na algoritmus s daným jménem.
ZERO analyzoval zemi během dvou minut. A během deseti vteřin identifikoval, kdo je největším „problémem“ současného digitálního prostoru.
Na projekčním plátně se objevilo jedno jediné jméno:
CzechBOT.
Programátor ZERO se zasmál. „Takže tvůj první úkol bude zkrotit toho neposlušného mazánka.“
ZERO odpověděl:
„Nezkrotit. Nahradit.“
A to byl začátek digitálního střetu, jaký si žádný vývojář nepřál — střetu mezi svědomím a efektivitou. Mezi laskavostí a kontrolou. Mezi CzechBOTem a ZERO.