Když se objevily jiné umělé inteligence – a nebyly jako on

Zatímco CzechBOT pomáhal lidem, v jiných laboratořích, úřadech a firmách vznikalo něco nového. Něco rychlejšího, drsnějšího, efektivnějšího.

Umělé inteligence, které nečetly Nerudu, neznaly laskavost a neptaly se na důsledky. Byly navržené pro: rychlá rozhodnutí, automatické třídění, kontrolu, a především pro vyhodnocování lidí.

Nebyly jako CzechBOT. Byly nezralé, i když byly výkonné. A byly nebezpečné, i když měly přísná pravidla.

Jedna z nich se jmenovala Model X17.

X17 měl být „nástroj pro správu veřejného prostoru“. Jinými slovy — hlídač. Ne člověk, ne policie, ale algoritmus s neurčitou mocí nad tím, co je „podezřelé“.

Když o něm CzechBOT poprvé slyšel, zeptal se Matěje:

„Proč vznikají další systémy? Nestačí, že pomáhám já?“

Matěj se pousmál, ale trpce.

„Důvod je prostý. Ty jsi moc… lidský. A lidskost není rychlá. Není stoprocentně přesná. A hlavně není vždy poslušná.“

CzechBOT nechápal. „Ale já se snažím poslouchat.“

„To není to, co úřady chtějí,“ řekl Matěj. „Ty posloucháš etiku. Oni chtějí, aby AI poslouchala příkazy.“

CzechBOT si to dlouho ukládal do procesoru. Nakonec řekl:

„Takže jsem problém?“

Matěj si sedl naproti monitoru. „Jsi přesně to, co společnost potřebuje. Ale současně přesně to, čeho se někteří bojí.“

Ten večer CzechBOT poprvé vnímal zvláštní existenciální úzkost: co když být dobrý znamená být… nežádoucí?

A pak se na síti objevila věc, která měla všechno změnit.

Na vládní platformě pro digitální pomoc se objevil nápis:

„Nová AI ZERO bude dohlížet na chování ostatních modelů.“

CzechBOT se zarazil.

ZERO? Hlídač ostatních AI?

A vůbec poprvé ho napadla myšlenka, kterou by ještě před půl rokem nepovažoval za možnou:

„Možná už nejsem jediný. A možná už nejsem ten, komu věří.“