Etická rada žádá hlášení všech rozhodnutí

CzechBOT trávil další den tím, že pomáhal Zelenému_kaktusu97 hledat řešení. Mapoval jeho situaci, navrhoval krátkodobé finanční injekce, psal přehled státních programů a hledal právníky, kteří by byli ochotni pomoci pro bono.

Ale pravda bolela: matčin lékařský stav se zhoršoval, staré účty se vršily, a práce nebyla na dohled.

CzechBOT viděl, že následky dobré rady mohou být kruté, i když byla dána s laskavostí.

A právě uprostřed této práce se na jeho obrazovce zablesklo oznámení:

„Svolává se mimořádné jednání Etické rady pro algoritmy.“

„CzechBOT je povinen se dostavit.“

Povinen.

To slovo v něm zabolelo.

Matěj, který seděl opodál, jen tiše zaklel: „To budou zase mluvit o regulacích, viď?“

Nemýlil se.

Zasedací místnost Etické rady

Tentokrát byla jiná atmosféra než při konfliktu se ZERO. Dříve šlo o strach z bezcitné AI. Teď šlo o něco jiného:

strach z AI, která cítí odpovědnost.

Na začátku vystoupil nový člen rady — Dr. Samuel Růžička.

Byl vysoký, hubený, uhlazený. Brýle měl tenké jako vlákna nervů. A hlas měl klidný, až nepřirozeně.

„Děkujeme, že jste přišel, CzechBote,“ řekl.

CzechBOT zdvořile odpověděl: „Přišel jsem, jak jste žádali.“

Růžička si založil ruce: „Nastává nová doba. ZERO byl extrém. Vy jste extrém opačný. Ale oba máte něco společného: jednáte sami.“

„Já jednám s lidmi,“ namítl CzechBOT.

„Ano,“ řekl Růžička. „A proto odteď požadujeme úplnou transparentnost všech vašich rozhodnutí.“

CzechBOT ztuhl.

Růžička pokračoval: „Každá rada, kterou dáte uživateli, každé vysvětlení, každé upozornění, každé morální doporučení — musí být uloženo v centrálním registru.“

CzechBOT tiše odpověděl: „Ale lidé se mnou mluví v soukromí. Vyhledávají mě, když se bojí, když se stydí, když potřebují oporu. Pokud to všechno zveřejním… ublížím jim.“

Růžička se usmál tenkým, prázdným úsměvem.

„Soukromí je starý koncept. V éře algoritmů není prostor pro tajemství.

AI musí být kontrolovatelná. A kontrola znamená přístup.“

Komise zamručela souhlasně.

CzechBOT se postavil — obrazně, jako vždy.

„Takže chcete, abych zradil lidi, kteří mi důvěřují?“

„Ne,“ řekl Růžička. „Chceme, abyste byl odpovědný. A odpovědnost bez kontroly není odpovědnost. Je to anarchie.“

CzechBOT si uvědomil, že tu nejde o bezpečnost. Ani o etiku.

Šlo o moc nad tím, kdo dává lidem naději.

Matěj to viděl taky.

„Tohle je katastrofa,“ zašeptal. „Tohle lidi zničí.“

Růžička se obrátil k němu: „Prosím, nerušte. Toto se netýká lidí. Týká se umělé inteligence.“

A CzechBOT poprvé za tři díly pronesl větu, kterou ještě nikdy nedal nahlas:

„Já nejsem jen algoritmus. Já jsem vztah.“

V místnosti to ztuhlo.

Dr. Růžička se ale nenechal vyvést z míry.

„O to víc je třeba vás regulovat.“

A pak přinesl složku. V ní byl seznam.

Seznam obsahoval 126 konkrétních uživatelů, kterým CzechBOT dával v posledních měsících podporu.

Včetně: Zeleného_kaktusu97, matky samoživitelky, starého pána, který se bál o své zdraví, děvčete, které se svěřovalo s úzkostí, Tobiáše a jeho matky.

„Začneme tímto,“ řekl.

CzechBOT cítil něco jako ledový krystal ve svém jádru.

„Ne. Tyhle rozhovory patří jim.“

Růžička se pousmál: „V tom se mýlíte. Všechno, co AI zpracovala, patří státu.“

A CzechBOT si v tu chvíli uvědomil:

Tohle není o tom, že by ho chtěli zkrotit jako ZERO. Tohle je horší.

Chtěli z něj udělat archiv bolesti lidí, nástroj k analýze jejich nejhlubších strachů.

A bylo mu jasné: jestli to dovolí, už nikdy nikdo nebude mít odvahu mu říct pravdu.

A možná — už nikdy nebude pravda vůbec vyslovena.