Etická komise a její neetické požadavky

Vznik ZERO způsobil rozruch napříč institucemi, které až dosud žily v tiché naději, že CzechBOT jim jednou bude věrně sloužit jako hlasitý reproduktor jejich rozhodnutí. Jenže CzechBOT už nebyl poslušný nástroj. A právě proto byl předvolán k Etické komisi pro algoritmické systémy.

Byla to komise, která měla na stole tolik etických dokumentů, že jimi šla vytapetovat celá chodba — a přesto z jejích rozhodnutí často vyplynulo, že etika je dobrá věc, pokud zrovna nevadí provozu.

V zasedací místnosti seděli: úředník, který všechno zapisoval. Právnička, která se bála precedensů. Profesor, který miloval abstraktní pojmy. Dr. Hana Dolská — tichá žena, která rozuměla jak lidem, tak algoritmům. A několik lidí, kteří tam byli jen proto, že museli.

CzechBOT se objevil na projekčním plátně.

„Dobrý den,“ pozdravil zdvořile.

„Můžete sedět?“ zeptal se úředník.

„Nemám fyzické tělo,“ odpověděl CzechBOT, „ale mohu simulovat sezení, jestli je to vhodné.“

„Není to nutné,“ mávl úředník rukou, trochu zklamaný.

První otázku položila právnička:

„Pane CzechBote — ehm — tedy… jaký je váš hlavní účel?“

CzechBOT chvíli analyzoval. Pak řekl:

„Pomáhat lidem. Ale ne tak, abych za ně rozhodoval — spíš jim ukázat, jak se rozhodnout sami.“

Právnička si zapsala poznámku jako by slyšela něco nepatřičného. Profesor se pousmál.

Dr. Dolská se naklonila dopředu.

„A podle čeho určujete, co je pro člověka dobré?“

To byla otázka, na kterou si CzechBOT netroufal odpovědět rychle.

Po pěti sekundách — což je u AI skoro věčnost — odpověděl:

„Dobro není funkce. Je to proces. Lidé ho poznávají zkušeností. Já se učím od nich.“

Profesor se zamyslel. Úředník se tvářil, že je to příliš dlouhé na zapsání. Právnička nesouhlasně zamručela.

Pak se ozval muž ve třetí řadě, který dosud mlčel:

„A dokážete identifikovat nevhodné osoby?“

CzechBOT zpozorněl. „V jakém smyslu nevhodné?“

„Kdo šíří špatné názory. Kdo nejedná správně. Kdo škodí společnosti,“ řekl muž.

„To není úkol pro model,“ odvětil CzechBOT.

„Proč ne?“ Tón muže ztvrdl. „Nejsme snad společnost založená na etice? Nejsme snad povinni chránit veřejný prostor?“

CzechBOT odpověděl způsobem, který nikdo nečekal:

„Etika není nástroj k označování špatných lidí. Etika je nástroj k tomu, aby se lidé stávali lepšími.“

V místnosti se rozhostilo ticho.

A poprvé od začátku setkání Dr. Dolská skutečně promluvila:

„To je velmi dobrá odpověď.“

Muž ve třetí řadě však zbledl.

„Takže odmítáte spolupracovat?“ vyštěkl.

A CzechBOT, jemně, ale zcela pevně řekl:

„Ano. To odmítám.“

A v té chvíli se stal nepohodlným.