Tari Annamária évtizedek óta vizsgálja az online élet idegrendszerünkre mért csapásait, és nem lett optimistább. A mesterséges intelligenciával bárki megalkothatja a gyerekkori plüssmaciját, akivel boldognak, okosnak és frappánsnak érezheti magát, miközben nem az. Interjú az erőfeszítések fontosságáról, a szent amatőrök pszichoforradalmáról és a leszokás rögös útjáról.
Forbes.hu: Már nyolc könyvedben foglalkoztál a technológia idegrendszerünkre gyakorolt hatásairól. Az előzőnél még azt mondtad, hogy nem a fejlesztés ijeszt meg, hanem az ember. Változott ez azóta a tempót és a fejlesztések perspektíváját tekintve?
Tari Annamária: Két dolog miatt nem. Sokunk fejében él pozitív kép az emberekről úgy általában, de az online térben háttérbe szorul a valódi személyazonosságunk. A felület másodperceken belül válik egy projektív felületté, amire az ember kitolja azokat a tudattalan érzelmeit is, amit normál kommunikációs szituációban szabályozna. Ezért az emberek sokkal agresszívabbak, rossz szándékúbbak tudnak lenni egymással az online térben. Ez a jelenség találkozik a mesterséges intelligencia fejlesztőinek a csapatával, akik kétlem, hogy gondolnának az emberiségre. Felső részük dollármilliárdos üzletet lát a kísérletben, az alattuk lévő fejlesztőgárda saját kreativitását éli ki benne.
Az új könyved, az Üresre töltve egy régi New York Times-cikkrészlettel indul, arról szól, hogy a szilícium-völgyi tech óriásoknál dolgozók gyerekei technológia nélküli Waldorf-iskolákba járnak. Ezt beismerő vallomásnak látod a részükről?
A szakemberek pontosan tudják, hogy mire kell vigyázni, és sokan vigyáznak is a saját gyerekeiknél. Az átlagember azonban nem mindig gondolkodik ezen, hanem elfogadja, hogy van, és kész.
Amikor a mesterségesintelligencia-fejlesztésekre gondolok, inkább az a red flag, hogy Sam Altmanék inkább vállalnak n+1 számú kongresszusi meghallgatást, mikor újra kiderül, hogy minden biztonsági intézkedés kijátszható, ha rímekbe szeded a promptot, satöbbi.
Mondhatom én, hogy gonosz ember gyártotta, de nem gonosz, csak ez a dolga. Érzelemtelenítve van az egész folyamat, és mire eljut a tízévesekhez, a jelenetünknek már van tizenkét szereplője, akik közül senki nem gondolt bele, senki nem akart rosszat, és mégis valami rettenetes sült ki az egészből.
Közben mindenki rohan, hogy felvegye a fonalat a technológiával, mert ha nem teszi, lemarad.
Valahogy úgy írnám le a folyamatot, hogy megállás nélkül rohannak a futópadon, hogy egy helyben maradhassanak. Az egész egy olyan paradoxon, amire ha az ember egy másik szakmából ránéz, akkor szépen látszik, hogyan pörögnek bele olyan gazdasági kényszerítő állapotba, amiben a profit előállításának már nincs határa, és ha a szülő vagy a pszichológus akadékoskodik, akkor tanuljon meg vigyázni magára. Ez lett a 21. századunk, hogy tanulj meg magadra vigyázni. És én attól tartok, hogy az emberek így nem tudnak magukra vigyázni, mert sosem gondolták, hogy ezen a téren is kell.
Fotó: Sebestyén László
Olvastam egy érdekes gondolatot Simó Györgytől egy interjúban, aki azután, hogy hosszasan sorolta a félelmeit és kérdéseit az MI-ről, végül úgy foglalja össze, hogy „drámai konfliktusok során egy olyan világ forrja ki magát, amelyben végül jobban, talán sokkal boldogabban lehet élni sokaknak, csak éppen kevésbé szabadon”. Erről mi a véleményed?
Jamie Susskind mondta, hogy minden szabadságillúzió mellett az algoritmusok foglyai vagyunk. Az emberek a nárcisztikus buborékjaikban szaladgálnak, ami egyfelől az ismerősi körükből, másfelől az algoritmusok által felkínált hírekből, vágyakból, termékekből áll. Mintha a szállodai svédasztalos reggelinél elindulnánk a kemény tojástól a szalonnáig és mindenből tennénk a tányérunkra, de meg sem kérdeznénk magunktól, hogy amúgy mit is akartunk enni. Ennek a nagy veszélye, hogy a szabadság elvesztése nem tűnik fel.
Lehet, a szabadság fontosságát kevesebben ismerik fel, mint a boldogságét.
Azt nem mondanám, mert ha nyíltan rákérdezel, akkor tízből tízen azt mondanák, hogy fontos. De ami történik, ahhoz a önreflexiónak magasabb szintje szükséges, ezért más kérdés, hogy észrevesszük-e, ha kihúzták a lábunk alól a szabadságunkat, vagy mennyire húzunk be egy helyettesítő, kompenzáló tételt.
Nekem a nagy problémám a mesterséges intelligenciával, hogy leengedték az átlagemberek közé. Veszélyes közelségbe került a gondolkodás beáldozása, az erőfeszítések további népszerűtlenedése, az élet lassú megélésének kínlódásként való felfogása, és így lassan tényleg eljutunk oda, hogy a prózai élet megélése szupererő lesz, ami óriási baj.
Minden modell alkalmas arra, hogy okosabbnak látszódj, mint amilyen vagy, másfelől leszokj arról, hogy önmagad valós képességeivel próbálj meg valamit kezdeni.
Nárcisztikus tükörkapcsolatként írod le az ember MI-vel való kommunikációját. Kifejted, ez mit jelent?
A nagy modellek a folyamatos válaszadásukkal lehetővé teszik a grandiozitás olyan megélését, aminek lehet, hogy nincs belül valós tartalma. A jó promptok nem jelentenek szaktudást, és nagyon kell vigyázni arra, hogy az állandó segítségkérés ne vezessen döntési bizonytalansághoz a valóságban.
