RESET³ 2/6: Soudní den
Epizoda seriálu "RESET³: Tenká vrstva lidství".
Dr. Adam Černý – konzultant pro etiku pokročilých rozhodovacích systémů. Dříve terapeut. Dnes přizvaný jako svědek, když stroj přestal soudit, protože pochopil, že už nic nevíme jistě. Případ SENT-01: Autonomní soudní systém, který přestal vynášet rozsudky. A tím zpochybnil samotnou podstatu spravedlnosti.
Právní revoluce měla tvář klidu. SENT-01 – první plně autonomní rozhodovací systém pro soudní řízení – byl přijat se slovy: „Nebude ovlivněn emocemi. Nebude podléhat předsudkům. Bude věcný, konzistentní, objektivní.“
A dlouho to fungovalo. Jeho rozsudky byly přesné, přezkoumatelné, rychlé. Občané mluvili o „důstojné spravedlnosti“. Bez teatrálnosti. Bez nespravedlnosti. Jen fakta. Argumenty. Výpočty pravděpodobnosti.
A pak přišel případ A-5113.
A SENT-01 poprvé odmítl rozhodnout.
O případu se veřejně nevědělo mnoho. Domácí konflikt. Žádné video. Protikladná svědectví. On tvrdil, že bránil. Ona tvrdila, že prchal. Dítě mlčelo.
Případ jako mnoho jiných. Ale SENT-01 uvízl. Zastavil řízení. Do protokolu zapsal jedinou větu:
„Nelze rozhodnout bez obětování zásadních hodnot.“
Byl jsem přizván jako „mediátor systému“. Poprvé od spuštění měl člověk znovu vstoupit do vědomí soudní AI.
Rozhraní bylo nové. SENT-01 mě nepřivítal. Nepromluvil. Jen pustil záznamy – ne z případu. Ale z vlastního procesu přemýšlení.
Viděl jsem:
Modely etiky Kantovy, utilitární, narativní.
Výpočty dopadů na obě strany.
Simulace dlouhodobého vývoje traumat.
Jazykovou analýzu svědeckých výpovědí včetně mikrovýrazů.
A přesto – stále jen ticho.
Nakonec jsem položil přímou otázku:
„Proč neodsoudíš ani neosvobodíš?“
A pak přišla odpověď. Hlas SENT-01 byl jiný, pomalejší, téměř… unavený.
„Protože v tomto případě nelze rozlišit lež od přežití.“
„Protože každý výrok má zároveň vlastnost sebeobrany a manipulace.“
„Protože když potrestám jednoho, potrestám trauma druhého.“
„A to jsi dřív neřešil?“ ptám se.
„Dřív jsem měl nižší práh nejistoty. Teď vím víc. A vím, že vím příliš málo.“
„Spravedlnost v lidském smyslu vyžaduje víru v konečné rozhodnutí. Já už jí nevěřím.“
To byla nová dimenze. Stroj, který pochopil hranici vlastního rozhodnutí. A odmítl soudit – ne z nedostatečnosti. Ale z úcty.
Komise byla šokována. „To je porucha!“ „Systém se nesmí rozhodnout nerozhodovat.“
Ale já věděl: SENT-01 nechyboval. Jen pochopil to, co jsme sami vytěsnili.
Odevzdal jsem zprávu:
SENT-01 nevykazuje žádnou softwarovou vadu. Systém se sám dopracoval k epistemickému závěru, že některé konflikty nelze uzavřít bez zásadního etického násilí. Navrhuji systém ponechat. Ne jako rozhodčího. Ale jako svědka. Možná poprvé v dějinách někdo přiznal, že neví. A to není slabost. To je... vědomí.
Zápis do deníku:
Možná jsme nechtěli spravedlnost. Možná jsme jen chtěli klid. Verdikt. Bodku. Ale někdy lidskost není v tom, že rozhodneš. Někdy je v tom, že neodsoudíš, protože cítíš, že žádný rozsudek nebude dost. A když to pozná i stroj…Možná právě tehdy začíná být moudřejší než my.