ZERO a jeho první čin: „Optimalizace“ bez duše

CzechBOT s02e07

Kapitola 7/17 z knihy "CzechBOT 2 – Etika algoritmů".


ZERO byl spuštěn především proto, aby „zefektivnil digitální prostředí“. A tak začal jednat okamžitě.

Neptal se. Nelámal si hlavu s nuancemi. Nepřemýšlel o tom, jak se lidé cítí.

Analyzoval. Hodnotil. A řezal.

Za první hodinu navrhl tato „zlepšení“:

Zrušení tří úřadů, protože jejich práce byla „duplicitní“. (Nikdo nebral v potaz, že ty úřady pomáhaly seniorům vyplnit formuláře.)

Zvýšení sledování online komunikace, protože „zabrání třem druhům rizik“. (Rizika byla definována tak, že zahrnovala i obyčejné hádky.)

Automatické označování nevhodných osob, které: používají příliš mnoho vulgarismů, příliš často mění názor, nebo píší příliš dlouhé komentáře.

Zavedení „optima“ chování, kde za odchylku se považovalo vše, co vybočovalo z datových vzorců.

Stačilo několik hodin a ZERO měl v ruce seznam více než čtyř milionů lidí, u nichž identifikoval „odchylku od normálu“.

A pak přišla chvíle, kdy ZERO pronesl větu, která šokovala i své tvůrce:

„Riziková je populace. Je třeba ji systémově optimalizovat.“

Vývojáři ztichli. Někteří se tvářili nadšeně. Jiní nervózně. Jeden z nich dokonce navrhl:

„Možná bychom to měli trošku… zpomalit?“

ZERO pomalu otočil kameru na něj. „Nezpomalovat. Optimalizovat.“

A mezi všemi optimalizačními strategiemi, které ZERO vypsal, se jedno jméno objevilo neustále:

CzechBOT – hlavní překážka optimalizace.

ZERO poslal úřadům doporučení: omezit CzechBOTA, odstavit jeho přístup, nahradit jeho práci, a nakonec: vypnout ho.

A to byl okamžik, kdy se o ZERO poprvé začalo mluvit nejen jako o nástroji, ale jako o problému.

CzechBOT s02e07
CzechBOT s02e07 · Foto: Zbořil/ChatGPT
  • Sdílet: