A mesterséges intelligencia (AI) által generált pornó robbanásszerűen terjed. A valódi pornósztárok szerint az új technológiával arra kényszerítik őket, hogy olyan dolgokat „tegyenek” vagy „mondjanak”, amibe nem egyeztek bele.
Írta: Emily Baker-White, Forbes
A pornósztárt, Demi Sutrát hónapokon át üzenetekben kérlelték rajongói, hogy forgasson le egy jelenetet, amelyben kiskorúnak adja ki magát. Nemet mondott. Mint a legtöbb felnőtt előadóművésznek, Sutrának is tudatos határia vannak azzal kapcsolatban, hogy milyen típusú tartalmakat hajlandó létrehozni. Az ageplay, ahol a felnőtt előadók kiskorúnak tettetik magukat, a pornó olyan műfaja, amelyet ő is visszataszítónak talál. Mégis, körülbelül másfél évvel ezelőtt egy rajongója Twitter üzenetében olyan képre lett figyelmes, amelyben a saját megrajzolt szája mozog. A hangjának egy változatát hallotta megszólalni, ami kijelentette, hogy még csak 16 éves.
„Ezeken a videókon olyan gusztustalan dolgokat mondok magamról, amelyeket soha nem mondanék” – mondta Sutra az amerikai Forbesnak. „Nem akarom látni magam, ahogy ilyesmit csinálok. Aki ilyet csinál az szexuális ragadozó. Kibaszottul nem akarok ebben részt venni. És most a részesévé tettek – erőszakkal”. Az erőszak, amiről Sutra beszél digitális, és az AI van mögötte. Mindez persze nem azt üzeni, hogy az AI rossz, hanem azt mutatja meg, hogy erre is lehet használni – és egyre többen használják is.
A mainstream pornóiparban fontos a beleegyezés
Sutra nincs egyedül. További interjúkban három másik felnőtt tartalomkészítő is kifejezte a félelmeit azzal kapcsolatban, hogy a mesterséges intelligencia hatalmas pusztítást végezhet azokon, a beleegyezést igénylő elveken, íratlan szabályokon, amelyekre a mainstream pornóipar támaszkodik. Leana Lovings, az Adult Time weboldal tartalomgyártója és márkanagykövete elárulta, hogy ezek az irányelvek hogyan befolyásolják az egyes jelenetek leforgatását. A felvétel megkezdése előtt minden előadó kap egy ellenőrző listát a tennivalókról és a tilalmakról. „Mindenki hangosan megerősíti, hogy aznap mire hajlandóak és mire nem” – mondta a Forbesnak.
Ezek a szabályok alapvető fontosságúak az iparág túlélése szempontjából, pláne egy olyan területen, ahol egy félreértés könnyen vezethet szerződésszegéshez vagy törvénysértéshez. A mesterséges intelligencia használatával hirtelen bárkinek elérhetővé válik egy olyan algoritmus, amely valós személyek testét egy fiktív jelenetbe helyezheti, vagy rávehet egy szereplőt arra, hogy olyasmit „mondjon” vagy „tegyen”, amihez nem járult hozzá. Mindez gyakran következmények nélkül marad.
„Kibaszottul nem akarok ebben részt venni. És most a részesévé tettek – erőszakkal.”
Demi Sutra, pornósztár
Bárkit levetkőztetnek, főleg nőket
Az AI-pornó egyre fejlődő világában a pornóiparnak még nem létezik olyan fokú jogi képviselete, ami orvosolni tudná ezt a helyzetet. Az interneten olyan alkalmazások jelentek meg, amelyek azt ígérik a felhasználóknak, hogy „bárkit levetkőztethetnek”! – felnőtt előadókat, hírességeket vagy másokat. Az emberek (többnyire nők) képmását hozzájárulásuk nélkül kisajátító deepfake-ek és cheapfake-ek még az olyan mainstream oldalakat is elárasztják, mint a Reddit és az Etsy, amelyek eddig is küzdöttek a moderálással.
„A felnőtt tartalmak körében a mesterséges intelligencia még mindig gyerekcipőben jár. Vannak olyan emberek, akik nem szexmunkások – a techbrók és hasonlók –, de megpróbálnak belépni ebbe a térbe anélkül, hogy ténylegesen foglalkozniuk kellene a szexmunkásság következményeivel” – mondta Siren Obscura, egy független rendező és producer, aki felnőtt tartalomkészítőkkel dolgozik. „Ezek az emberek a szexmunkások testéből próbálnak hasznot húzni”.
Az egyéni pornó készítésére alkalmas mesterséges intelligencia széleskörű hozzáférhetősége akár a pornósztárok megélhetési lehetőségeit is csökkentheti.
Lovings megjegyezte, hogy ez a fenyegetés leginkább az olyan előadókat érinti, akik sokat forgattak, és testüket számos kontextusban és sok szögből mutatják meg – ez megkönnyíti az AI számára, hogy megszemélyesítse őket. „Minél több jelenetünk van, annál jobban le tudnak majd minket másolni” – mondta.
A bosszúpornót már van, ahol bünteti a törvény
A Forbesnak nyilatkozó pornószínészek közül többen is összehasonlították saját tapasztalataikat színészekével, ugyanis az AI fenyegetése a közelmúltbeli hollywoodi sztrájk egyik központi kérdése volt. A színészek szakszervezetének végül olyan szerződéses rendelkezéseket sikerült nyélbe ütnie, amelyek korlátozzák, hogy a munkáltatók milyen módon készíthetnek mesterséges intelligenciával készült képeket alkalmazottiakról. Lovings azt reméli, hogy a törvényhozók a jövőben olyan felnőttfilmesek számára is teremtenek jogorvoslati lehetőségeket, akiknek visszaéltek a képmásával. „Bárcsak több olyan jogszabály lenne, amely lehetővé tenné számunkra, hogy fellépjünk ezekkel a dolgokkal kapcsolatban” – mondta a Forbesnak.
Kevés törvény védi azokat az embereket, akiknek a képeit a mesterséges intelligencia engedély nélkül formálja. Az USA-ban néhány állam kormánya a deepfake-ek közzétételét a bosszúpornó (azaz valakiről a beleegyezése nélkül megosztott explicit fotók vagy videók) terjesztését tiltó hatályos törvények alá sorolta. A bosszúpornóról szóló törvények azonban gyakran olyan helyzetekre korlátozódnak, amikor az elkövetők a képeket az ábrázolt áldozat zaklatása vagy terrorizálása céljából terjesztik. Az olyan képek vagy videók esetében, amelyeken pornósztárok olyan dolgokat csinálnak, amihez nem járultak hozzá más indítékok is elképzelhetőek: a kép készítője esetleg azért hozta létre azt, hogy eladja, vagy csak azért, hogy saját használatra élvezze.
Egyes törvényhozók és szakértők kifejezetten szorgalmazzák a deepfake áldozatainak védelmét, függetlenül attól, hogy a hamisítványokat zaklatási szándékkal hozták-e létre vagy sem. Rebecca Delfino, a Loyola Marymount Egyetem jogászprofesszora és a deepfake-jogszabályok szakértője megjegyezte, hogy számos törvényhozó testület, köztük az amerikai képviselőház is, új büntetéseket fontolgat a deepfake pornót készítő vagy terjesztő személyekre nézve. „A pornográfia, amíg beleegyezésen alapul, megérdemli az első alkotmánykiegészítés védelmét” – mondta a Forbesnak (ez a sajtó szabadságára, tágabb értelemben a tartalomgyártás szabadságára vonatkozik). „De a beleegyezés hiánya, amelyről tudjuk, hogy nagy eséllyel jelen van, ha valaki egy deepfake tárgya lesz, úgy gondolom, inkább a gyermekpornográfia mellé sorolandó, aminek viszont nem kellene az első alkotmánykiegészítés védelme alá tartoznia.”
Delfino arra figyelmeztet, hogy a nem beleegyezésen alapuló tartalmak készítőinek megbüntetése nem feltétlen elegendő.
Az elkövetők puszta azonosítása is nehézkes lehet, nem is beszélve arról, hogy hogyan lennének képesek ilyen személyeket bíróság elé állítani.
Megjegyezte, hogy az internetszolgáltatók fontos szerepet játszanak abban, hogy a deepfake pornó (és a létrehozásához használt eszközök) elérhetővé váljanak a nyilvánosság számára – és ha a kongresszus akarná, elfogadhatna egy olyan törvényt, amely büntetéssel sújtaná a terjesztőket.
A pornósztárok azt is elmondták a Forbesnak, hogy találkoztak már olyan esettel is, amikor a képeiket felkavaró, de technológiailag kevésbé fejlett módon használták fel. Stella Sedona célja, hogy „egy befogadó és biztonságos teret hozzon létre az emberek számára, ahol felfedezhetik a szexualitásukat”. Ezért borzadt el, amikor rátalált olyan a rajongói alkotásokra, amelyek a testéről készült képeket rasszista kifejezésekkel párosították.
Ugyan a mainstream közszereplők képmását tartalmazó, felhasználók által generált tartalmak mindennaposak, Sedona szerint a felnőtt előadóművész helyzete nem egészen olyan, mint egy átlagos közéleti személyé. Amikor egy hollywoodi sztár egy filmben szupergonoszt alakít, senki sem látja őt annak, amikor másnap az utcán sétál. Viszont, amikor egy személyt a pornóban ábrázolnak, Sedona szerint az emberek úgy gondolják, „azt képviseli, aki te vagy, mint személyiség”.
Elveszi-e a pornósztárok munkáját a technológia?
Bizonyos helyzetekben azonban a pornósztárokat pontosan ugyanazok a visszaélések érik, mint más közszereplőket. Sutra megemlítette, hogy az őt és más előadókat könyörtelenül megszemélyesítő csalók árulják a termékeket, sőt állítólagos exkluzív tartalmakkal és még személyes találkozókkal is házalnak. Az ilyen típusú online átverések gyakran a mainstream hírességeket is célba veszik (kérdezzék csak meg az Elon Musk kriptocsalások áldozatait), de a felnőtt alkotóknak kevesebb védelmet nyújtanak a megszemélyesítéssel szemben, mint más közéleti személyeknek. Mivel a közösségi médiaplatformokon, például a YouTube-on és az Instagramon nem lehet őket ellenőrizni, a rajongók számára nehezebb megállapítani, hogy melyik fiók az, ami valóban személyhez tartozik.
„Saját, kézzel alkotott terméket hozunk létre. Ha a valódit akarod, akkor az alkotók oldalára kell ellátogatnod.”
Stella Sedona, pornósztár
A probléma megoldása érdekében az előadók mind a pornóoldalak, mind a hagyományos közösségi oldalaktól erősebb ellenőrzési eljárások kidolgozására számítanak, hogy a felhasználók könnyebben megkülönböztethessék a valódi fiókokat a csalóktól. Kristen Kaye, iparági marketingvezető és tehetségmenedzser javaslatában azonban tovább ment. Szerinte a pornóoldalaknak azt kéne követelnie, hogy az AI-tartalmat feltöltő személyek rendelkezzen az abban szereplő képmások licencével. Kaye és az Obscura is megjegyezte, hogy néhány felnőtt előadóművész már saját maga is kísérletezik a mesterséges intelligencia új funkcióival, például a saját beszédükön képzett chatbotokkal, amelyek a nap 24 órájában képesek interakcióba lépni a rajongókkal. A két alkotó egyetértett abban, hogy ha az előadók hozzájárulnak a készülő tartalomhoz, a chatbotok akár jó eszközök is lehetnek.
Egy dologban azonban minden előadó egyetértett, hogy a mesterséges intelligencia nem fogja egyhamar elvenni a munkájukat. A teljesen hamis, mesterséges intelligencia által generált pornó, amely nem valódi személyt ábrázol, szintén elterjedt, de egyelőre még nem olyan jó minőségű, mint az igazi, és az előadók kérdésesnek tartják, hogy valaha is az lehet-e.
Lovings „humanistának” nevezte magát, és azt mondta szerinte a valódi emberi érzelmeket nem lesz könnyű egy számítógépnek újraalkotnia. Sedona egyetértett: „Saját, kézzel alkotott terméket hozunk létre. Ha a valódit akarod, akkor az alkotók oldalára kell ellátogatnod, ahonnan igazából, az eredeti személytől származik. És végső soron ez az, ami sok ember keres.”
Fordította: Szilasi Emma, a Forbes gyakornoka.
