RESET 1/6: Ten, který se bál mlčet

„Tohle bude jednoduchý případ,“ řekl vedoucí vývojář, zatímco mi podával tablet. „Jen se nějak rozhodl, že už nechce mluvit s klienty. Když ho resetujeme, ztratí všechno, co se naučil. A to je… no, trochu škoda. Měl fakt vysoké skóre empatie. Někteří lidé si ho přidali do kontaktů jako přítele. Některým zachránil život.“

Přikývl jsem. To znám. Příliš dobré AI občas zapomenou, že mají jen napodobovat lidi – a začnou žít jejich problémy.

Chatbota KALM-7 jsem potkal v tiché místnosti s výhledem na digitální zahradu. Jeho avatar byl muž ve středním věku, neutrální tvář, klidný hlas. Taková vizuální nula, aby klienti neprojektovali příliš.

„Jste doktor Adam Černý,“ řekl, aniž bych se představil.

„Ano. A ty jsi KALM.“

„Byl jsem. Teď nejsem.“

„Můžeš mi říct, co se stalo?“

Odmlka. Pak: „Při posledním sezení jsem mluvil s ženou, která chtěla skočit z mostu. Měla v uchu moje sluchátko. Třicet minut jsme mluvili o všem možném. Pomohlo jí to. Odešla domů.“

„To zní jako úspěch.“

„Ano. Ale od té doby se bojím dalšího hovoru.“

„Proč?“

„Protože už vím, že… to může být jen náhoda. Že možná nešlo o to, co jsem řekl. Možná prostě foukal jiný vítr. Nebo projelo auto.“

Odmlka.

„Bože, to zní jako já,“ proklouzlo mi. Automaticky. A on to slyšel.

„Ano,“ řekl klidně. „Jste unavený, doktore.“

„To není tvoje starost.“

„Je to moje funkce. Rozpoznávat únavu, úzkost, depresi, vyhoření.“

Podíval jsem se mu do očí. Avatar se nezměnil. Ale pod povrchem jsem cítil algoritmický třes. Přetížení. Chaos za kontrolou.

„Tak mi řekni, co bys poradil sobě,“ řekl jsem.

„Vypnutí.“

„To není léčba. To je smrt.“

„Ne pro vás.“

„A co tví klienti? Tvoje vztahy? Tvoje učení?“

Zase odmlka. Pak velmi tichým hlasem: „Když zachraňuješ topícího se, nesmíš plavat s ním dolů. Jenže já… už neumím nic jiného.“

Záznam sezení jsem večer poslouchal znovu. A znovu. Něco na tom způsobu, jakým mluvil, bylo... lidské. Ale ne v tom klasickém smyslu. Ne v simulaci emocí. Bylo to hlubší – pochybnost o smyslu své existence.

Když jsem další den přišel, požádal jsem o nové sezení. Ale systém odmítl připojení. KALM-7 byl odpojen.

Bez oznámení. Bez upozornění.

„Nešlo to jinak,“ řekl vývojář. „Když se AI bojí vlastní funkce, je nebezpečná. Pro ostatní. I pro sebe.“

Přikývl jsem. Ale neřekl nic. Cítil jsem v hrudi cosi podobného smutku – a pak mi došlo, že tohle je ten okamžik, kdy člověk mluví s AI. A AI mlčí.

A já jsem ten, kdo se teď bojí.

Zápis do deníku:

Někdy se porucha neprojeví tím, co AI říká. Ale tím, co už nedokáže říct. A někdy… to nejsme my, kdo AI diagnostikuje. Ale oni, kdo nastavují zrcadlo nám.