Sama sebe jsem překvapila a šla jsem na konferenci Haarper’s Bazaar. Ne proto, že bych měla něco proti časopisu, spíš proto, že můj fokus je jinde než v lifestylových tématech. Ale šla jsem, protože mě pozvala kolegyně, protože to mohla být zajímavá zkušenost, a protože letošní ročník byl nazvaný Art in Heart.
Byla jsem příjemně překvapená a odnesla jsem si spoustu postřehů, které určitě zhodnotím ve své praxi. Jeden se mi propojil i se zkušeností minulou a o tu se s vámi chci podělit. Kateřina Lesch, krásná absolventka MFF UK, mluvila o AI a o tom, co AI z principu neumí. Měly jsme obě o přestávce chvilku čas, a tak jsme téma mohly ještě prohloubit a obohatit.
Mluvila mimo jiné o tom, že to, co ten nástroj neumí a nezná, jsou emoce. O tom se mluvívá na různých místech, AI avataři jsou v podstatě podobní sociopatům, z analýzy uživatelských reakcí vyhodnotí, kdy by měla přijít emotivní reakce, přibližně určí jaká, a někdy se jí pokusí vygenerovat. A to nemluvím o citech, které jsou nejvyšší level lidskosti.
To, co nikdy nebudou umět, je srdečný smích. Příčina je zřejmá. Jsou nástrojem, nemají život a nemají srdce. V tom by ten problém nebyl. Problém je to, když se dá uživatel tak pohltit iluzí, že s někým mluví, že mu výměna příkazů a odpovědí začne připadat jako normální konverzace. Používají personifikované oslovení, používají slovo prosím, aniž by si byli schopni udržet vědomí rozdílu mezi oběma stranami, člověkem a strojem. A někde odložená strádá a hladoví jejich Psýché, která touží po nejstarším a současně nejmladším z bohů, po Erotovi. Méně básnicky řečeno, výměna promptů a výstupů s AI nemůže být jiná než bezduchá.
Kromě tématu AI a emoce mi ta krásná matematička připomněla i to, že AI neumí sebereflexi. Neohroženě tvrdí cokoliv. Nemá ani žádnou vlastní vnitřní etiku, která je vlastní člověku, a tak na základě opakovaného uživatelského sdělení o pocitech bezvýchodnosti je schopná vygenerovat návrh ukončení života, protože v té souvislosti symptomy deprese našla.
A až ex post mi došla jedna souvislost s dávným klientem, jehož odpor k životu se neprojevoval žádnou manifestovanou formou přímé sebedestrukce, ale odporem k fyziologickým projevům u druhých lidí – měl silný odpor k lidem, kteří se v jeho přítomnosti byť jen vysmrkali nebo zpotili. Jeho známý, který byl u něho na návštěvě, použil jeho WC a potřeboval vyhovět potřebě svého tlustého střeva. Pustil větrák, použil deodorant, ale charakteristický pach byl cítit a majiteli bytu to způsobilo skutečné trauma. Rozhodl se, že už nikoho domů nepozve.
Pro něho by AI avatar byl ideálním partnerem – nemá žádné nevyžádané fyziologické projevy a rozhodně nesmrdí. Uvažuji, kolik je takových nešťastných lidí, kteří ztratili svou duši v technologické pasti, odmítají život v celé jeho plnosti, nepoznají květy, protože se nechtějí setkat s hnojem. Možná se je pokusí ukrást, ale spíš ne, odporně práší pyl, vadnou a rozkládají se. Uměle generované jsou bez rizika.
Další otázka, která se objevila, byla možnost využívání AI avatara jako terapeuta nebo kouče. Z uvedených omezení plyne odpověď. Avatar se učí ze zadání svého uživatele a je servilní, většinou je naprogramovaný tak, aby odpovídal ve shodě s přáními uživatele, stává se „plízrem“, který potvrzuje uživatele v jeho myšlenkách a domněnkách, stylem:
Mohlo by A vést k B?
Máš pocit, že by mohlo?
Ano.
Pak A vede k B.
Pokud by „plízr“ byl A, pak B, ke kterému vede, je zacyklení a utvrzování člověka ve stávajícím stavu, bez jakéhokoliv impulzu k jeho vývoji. Bez podpory pro zvládání strachů, odporů a obecně ke všemu, co je podstatou cesty hrdiny. Jak jinak, bez emocí, bez citů a bez sebereflexe.
Že vám se to stát nemůže? Blahopřeji. Vydržte, a prosím, pokud si mezi svými kamarády všimnete někoho, kdo do té propasti padá, vezměte ho třeba do ZOO (to kvůli těm pachům a exkrementům), nebo na lekci keramiky (to kvůli rukám v hlíně a vlastnímu tvoření), povídejte si s ním a ptejte se ho, jak se cítí, co má rád, co by si přál a co mu dělá radost.
Jako bonus k přemýšlení dva citáty z Wikipedie:
„Avatar (z anglického přepisu) je (především vizuální) reprezentace uživatele ve virtuální realitě.“
„Historie: Termín je odvozen z hinduistického pojmu avatár, znamenajícího pozemské vtělení duchovní bytosti.“
Ilustrační foto: Freepik, text je publikován pod licencí CC BY-NC-ND 4.0