Kdepak v detailu… ďábel je vidět na první pohled

Celkem pět států, které od roku 2022 předsedalo Evropské unii, se celkem vlažně stavělo k legislativnímu návrhu Evropské komise na ochranu dětí před zneužíváním, známou jako CSAM (Child Sexual Abuse Regulation). Až Dánsko, současná předsednická země EU, si schválení této legislativy dalo jako svoji prioritu a navrhlo její podstatnou úpravu. Konečně? Kdepak, nic kontroverznějšího a kromě toho potenciálně nebezpečného pro ty, koho má chránit, už dlouho na stole neleželo.

Jádrem CSAR legislativy, přezdívané jako Chat control, je povinné zavedení plošného skenování elektronické komunikace (v našich mobilech a počítačích, abychom si rozuměli...) s cílem vyhledat a nahlásit výskyt dětské pornografie. V současné době mohou toto skenování (a nahlašování) na základě rozhodnutí EU (výjimka z GDPR) provádět technologické firmy dobrovolně, například Meta tak činí. EU již avizovala, že tuto výjimku neprodlouží.

Vlažný přístup k této legislativě ze strany předsedajících zemí (často setrvávajících na pozici „dobrovolného skenování“) a odmítání návrhu řadou zemí EU má jasné důvody, které byly již několikrát za poslední tři roky formulovány a medializovány, proto jen stručně:

Na první místě zásah do soukromí formou prolomení šifrování u komunikačních nástrojů, které běžně používáme (ještě včera bychom řekli: prolomení listovního tajemství). Jde například o komunikační platformy jako je WhatsApp, Signal nebo ProtonMail či služby VPN. Dále hrozby technologických firem, že pokud by musely povinně skenovat komunikaci svých zákazníků (než ji zašifrují), tak z Evropy odejdou. Dále generování velkého množství falešných hlášení a s tím spojené zahlcení policejních orgánů, které tato hlášení musejí řešit. Současně byl návrh kritizován i kvůli dopadu na děti a jejich vztahy, když velkou část erotického či pornografického obsahu sdílí děti mezi sebou.

Aktuální dánský návrh říká, že sledována nebude kompletní komunikace, ale jen obrázky a videa (proto se mluví o skenování) a povinné skenování nebudou provádět ve svých aplikacích technologické firmy, ale přímo všechna elektronická zařízení. To je zásadní změna a mobily a počítače proto budou muset být vybaveny softwarem, který provede skenování ještě dříve, než zprávu uchopí, zašifruje a pošle některá z aplikací.

Jak by realizace nové legislativy (v „dánské podobě“) u nás fungovala? Stát vybere některou z aplikací umělé inteligence a natrénuji ji na vyhledávání dětské pornografie. Tato AI bude přijímat fotky a videa automaticky zasílané z vašich mobilů a počítačů a vybírat ty podezřelé. Bude jich opravdu hodně, protože: naše děti a teenageři stále častěji své fotky sdílejí („sexting“ ve formě rozesílání vlastních intimních fotografií provozovalo k roku 2022 podle odborných studí 15,5 % českých mladistvých); my Češi navíc patříme mezi národy, kde si rodiny nebo známí posílají fotky svých dětí ve velké míře; a extrémně roste množství dětské pornografie vytvořené právě umělou inteligencí. Třeba v Německu museli v roce 2023 posoudit 180 287 případů (nahlášených firmami dobrovolně skenujícími elektronickou komunikaci, především od Mety; nárůst oproti předchozímu roku o třetinu), z čehož se 90 951 ukázalo jako falešných.

Takže jedno nebo více oddělení přetížených českých policistů vytřídí evidentní „profesionální“ dětskou pornografii a zahájí proces vyšetřování pachatelů (i těch, co sdílejí obrázky generované AI, a to včetně těch kreslených, protože podle názoru právníků se trestný čin šíření dětské pornografie týká i jich), a pak s profesionálním nadhledem přikročí k posouzení podezřelých případů, včetně intimních rodinných fotografií nebo odvážných erotických postů dětí. Zbude jim kupička mnoha tisíc těch, které musejí osobně prověřit. „Zazvoní vám u dveří“ a budou chtít mluvit s vámi a vašimi dětmi. Trauma je na cestě.

Jsem přesvědčena, že návrh nové regulace Evropské komise na ochranu dětí před zneužíváním v jeho současné podobě a za současných společenských a technologických podmínek dětem nijak nepomůže. Děti ohrožuje především jejich skutečné zneužívání - odhalit viníky je obtížné, objasněnost případů již nyní v průměru jen lehce přesahuje 50 %. Zahltit policie evropských států objasňováním veškeré podezřelé komunikace bude kontraproduktivní.

Česká vláda se k návrhu vždy stavěla odmítavě nebo neutrálně. Já si myslím, že je potřeba jej odmítnout důrazně. Dětem nepomůže a zavádí nepřijatelné špiclování soukromého života všech občanů. Je to systém snadno zneužitelný, v demokratické zemi jedinci, v nedemokratické zemi represivním aparátem.

A ještě poznámka k závěru předchozího odstavce: To, že návrh Evropské komise na plošné skenování kritizuje na stránkách Parlamentních listů komunistka Konečná, mě nijak neuklidňuje.