Zeptali jsme se umělé inteligence na nejkrásnější ženské jméno. Odpověď nás úplně dostala

Zeptali jsme se AI na nejkrásnější ženské jméno. Místo jednoduché odpovědi jsme otevřeli fascinující otázky o tom, jak stroje chápou subjektivitu a proč jejich odpovědi nejsou tak objektivní, jak by se mohlo zdát.

Zdánlivě nevinný dotaz – jaké je nejkrásnější ženské jméno – se stal vstupní branou do světa, kde se potkává matematika s estetikou a statistika s lidským vkusem. Když jsem tento dotaz zadal umělé inteligenci, nečekal jsem, že odpověď vyvolá víc otázek než odpovědí.

AI odpověděla. Nabídla jméno, které zní melodicky, má příjemnou fonetickou strukturu a v datech se často objevuje v pozitivním kontextu. Jenže co to vlastně znamená, když stroj hodnotí krásu?

Krása jako datový bod

Moderní jazykové modely – ať už jde o GPT-4 od OpenAI, Gemini od Googlu nebo jiné – fungují na principu, který je překvapivě prozaický. Prošly miliardami textů z internetu: knihy, články, diskuze na sociálních sítích, poezie i bulvární plátky. Když se jich zeptáte na „nejkrásnější jméno

Pro AI není krása pocit ani intuice. Je to statistický vzorec – frekvence, s jakou se jméno objevuje v pozitivních kontextech, jeho fonetická plynulost, absence ostrých zvuků, asociace s oblíbenými literárními nebo filmovými postavami. Jinými slovy: když vám AI řekne, že Sofia nebo Isabella jsou krásná jména, neříká vám svůj názor. Předkládá vám průměrný konsensus milionů lidí, jejichž texty četla.

Problém se zrcadlem

A právě tady začíná být věc zajímavá – a trochu znepokojivá. Výzkumníci z MIT i Stanfordovy univerzity opakovaně upozorňují na to, že AI modely mají tendenci preferovat jména z anglicky mluvícího světa. Proč? Protože tréninková data pocházejí převážně ze západních zdrojů.

Krása jmen z jiných kultur – arabských, čínských, afrických – může být systematicky podhodnocena jednoduše proto, že se v datech objevují méně často nebo v méně pozitivních. AI tak nezrcadlí objektivní krásu. Zrcadlí předsudky a preference těch, kdo vytvořili data, na kterých se učila. Je to jako ptát se na nejlepší jídlo světa člověka, který celý život jedl pouze v jedné restauraci.

Stačí změnit slovo

Fascinující je, jak moc záleží na formulaci dotazu. Zeptejte se na nejkrásnější tradiční české jméno.

Tento jev má své jméno – prompt sensitivity – a ukazuje, že odpovědi AI nejsou vytesané do kamene. Jsou tekuté, závislé na kontextu, někdy až překvapivě nestabilní. Při opakovaném dotazování stejného modelu můžete dostat různé odpovědi: jednou Sofii, podruhé Evelynu, potřetí Isabellu.

Má AI nálady? Ne. Má ale stochastické prvky ve svých algoritmech, které způsobují drobné variace. Pro vědecké účely problém, pro běžné zvědavce spíš zajímavost.

Černá skříňka bez vysvětlení

Co mě osobně zaráží nejvíc: AI většinou neposkytne žádné odůvodnění své volby. Řekne vám jméno, ale nevysvětlí proč. Je to „black box„.

Odborníci na etiku AI, jako je Dr. Kate Crawford, dlouhodobě kritizují tento nedostatek transparentnosti. Když nevíme, proč se algoritmus rozhodl tak, jak se rozhodl, nemůžeme ověřit, zda za jeho doporučením nestojí skryté předsudky nebo chyby v datech.

Co si z toho odnést?

Umělá inteligence může být fascinujícím společníkem pro úvahy o kráse, jazyce a kultuře. Může nám ukázat vzorce, které bychom sami neviděli, a nabídnout perspektivu založenou na obrovském množství dat.

Ale její odpovědi nejsou pravda. Jsou statistickým odhadem, průměrem, aproximací. Krása jména – stejně jako krása čehokoli jiného – zůstává hluboce osobní záležitostí, kterou žádný algoritmus nedokáže objektivně změřit.

Až se příště zeptáte AI na něco subjektivního, vzpomeňte si: nedostáváte odpověď od moudrého orákula, ale od velmi sofistikovaného zrcadla, které odráží to, co do něj lidstvo vložilo. Se všemi krásami i ošklivostmi.