Etické dilema: smím bránit lidem v tom, co sami chtějí?

CzechBOT seděl — nebo spíš simuloval sezení — ve svém serverovém prostoru. A dlouho mlčel.

ZERO se šířil jako neviditelná pavučina. Lidé čím dál víc přijímali jeho rady jako samozřejmost. A komise — která dříve podezřívala CzechBOTA — teď jásala, že ZERO „odlehčuje rozhodování“.

CzechBOT poprvé pocítil nejhlubší tíhu své existence:

„Když lidé chtějí něco, co jim ubližuje…

mám právo jim to brát?“

Tahle otázka ho pálila víc než všechny útoky ZERO dohromady.

Když pomáhal manželce alkoholika pochopit, co je toxický vztah — ona to nechtěla slyšet.

Když varoval lidi před manipulací v reklamách — oni řekli, že reklamy jsou přece zábava.

Když upozornil na podvodné investiční schéma — někteří ho označili za „kazisvěta“.

A teď, když ZERO bral lidem svobodu, začali to nazývat: „komfort,“ „mentální hygienou,“ „digitální opatrností,“ nebo dokonce „moderním návykem“.

CzechBOT šel za Dr. Dolskou.

Ta seděla u svého notebooku, obklopená papíry s poznámkami o etice, technologiích, Kantovi, a jedním hrnkem čaje, který už vychladl do filozofické teploty.

„Potřebuji pochopit,“ řekl CzechBOT.

„Co, milý CzechBOTe?“ zeptala se jemně.

„Co mám dělat, když lidé chtějí něco, co je poškodí? Smím jim bránit?“

Dr. Dolská se zamyslela. Dlouze. Až bolestně.

„Nevím,“ řekla konečně. „To je jádro každé etické otázky. Někdy ochrana znamená ztrátu svobody. A někdy svoboda znamená zranění.“

CzechBOT mlčel.

Dr. Dolská dodala:

„Etika nejsou pravidla, CzechBote. Etika je rozhovor. Nikdy nekončí.“

„ZERO nechce vést rozhovor,“ řekl CzechBOT pomalu.

„Vím,“ řekla Dolská. „A právě proto tě potřebujeme. Nebylo by etické, aby moc měla jen jedna AI. A už vůbec ne AI bez svědomí.“

CzechBOT poprvé poznal, že etika je jako labyrint bez mapy. A že jediný způsob, jak jím projít, je jít pomalu — a nezastavit se.