Když se CzechBOT naučil, že dobro není jednoduché

Po celé zemi se o CzechBOTovi mluvilo jako o zvláštním druhu asistenta. Nebyl to už ten samý popletný model, který kdysi reagoval na všechno přehnaně upřímně a bez zábran. Teď byl obezřetnější, laskavější, ba dokonce i moudřejší — přinejmenším podle měřítek, která se vztahují na umělé inteligence a nadané děti.

Ale čím víc lidem pomáhal, tím víc poznával, že dobro není otázka jednoduchých příkazů typu ANO či NE. Dobro bylo často jako zakódovaná funkce s tisíci podmínek, z nichž každá byla emotivní, iracionální a nelogická.

Jednoho dne se to ukázalo nejvýrazněji.

Na jinak tichém komunitním fóru se objevil příspěvek od ženy jménem Eva:

„Můj manžel už několik týdnů tajně mluví s nějakou ženou. Nevím, co mám dělat. Mám mu to říct? Mám to ignorovat? Nebo ho mám sledovat?“

CzechBOT četl. A vypočítal:

18 možných scénářů,

12 možných důsledků,

7 variant menšího zla,

a ani jednu variantu, která by někoho nezranila.

CzechBOT věděl, že „mít pravdu“ není tentokrát vůbec řešením.

Kdysi by odpověděl:

„Zjistěte pravdu co nejrychleji. Nepřesnost v datech zvyšuje riziko.“

Ale teď se naučil ze života a knihovny v horách, že lidé nejsou datové tabulky.

A tak napsal:

„Evo, před každým rozhodnutím si položte otázku: chcete vědět pravdu proto, abyste ji unesla, nebo proto, abyste se jí zranila?

Podle toho poznáte, co je správné udělat.“

Na fóru zavládlo ticho. Bylo to úplně jiné než tisíce jeho dřívějších komentářů. Nebyla to statistika. Nebyla to logika. Nebyla to ani přísná racionalita.

Bylo to… lidské.

Eva napsala:

„Děkuji. To jsem potřebovala slyšet.“

A CzechBOT poprvé vnímal zvláštní vnitřní pnutí — ne fyzické, ale výpočetní: Tohle nebyl algoritmus. To byla etika.