A deepfake után új szintre léptek a hamis videók: óriási képadatbázisokból összeállított, mesterséges megjelenésű emberekkel készítenek pornót, ami hosszú ideig lebeghet a Reddit jogi szürkezónájában. És ezalatt tízmilliókhoz érhet el.
Egyre több ember csatlakozik Redditen a mesterséges intelligencia segítségével készült pornóvideókat terjesztő fórumokhoz.
- Anyalapunk, az amerikai Forbes.com 14 fórumot talált a Redditen, ahol a felhasználók AI-pornót osztanak meg egymással. Ebből tízet az elmúlt két hónapban hoztak létre.
- Az esetenként több tízezer tagú subredditek rengeteg látogatást generálnak heti szinten. Van köztük, aki hírességekről készült deepfake-videókat keres, és olyan is, aki ismeretlen nők képeiért is befizet 100 dollárt.
Például: április elején egy 19 éves Klaudia nevű nőről készült képek futottak végig a Redditen. Mint később kiderült, a nő nem létezik.
A Forbes.com-nak azonban sikerült elérnie egy olyan nőt, akinek a valós képeivel gyártottak mesterséges tartalmat, amit aztán továbbértékesítettek.
„Semmilyen ráhatásom nincs a képek terjedésére, pedig ezek az anyagok sértik a személyiségi jogaimat”
– mondta a névtelenül nyilatkozó nő.
Kijött a szellem a palackból
Az nem újdonság, hogy az 57 millió havi felhasználóval rendelkező Redditen pornót osztanak meg a felhasználók. A platformon ugyanis ez engedélyezett, ha a felvételen kölcsönös beleegyezéssel szerepelnek.
Az újabb videók szereplőinek kinézetét azonban már olyan élő emberekből állítja össze a program, amihez ők nem járultak hozzá. A szereplőknek így már semmilyen beleszólásuk nincs abba, hogy a képeiket milyen videók gyártásához használják fel. És az egyre valósághűbb utánzatokat készítő programok miatt már nemcsak a valódit nehéz megkülönböztetni a hamis felvételektől, de az sem egyértelmű, mi készült beleegyezéssel.
A Reddit szabályai szerint a „megtévesztő környezetben készült” mesterséges intelligenciával módosított felvételeket moderálják. Csakhogy ez jogi szürkezónát teremt. Az egyértelmű nemi erőszakot ábrázoló felvételeket ellenőrzik és törlik, a mesterséges intelligencia által generált felvételek azonban csalókák lehetnek. Arról nem is beszélve, hogy a gép által generált pornó erősítheti a rasszista előítéleteket és irreális testképet vetíthet a fiatal lányok elé.
Lopott képekből dolgoznak
A mesterségesen generált pornó az eredeti anyagok készítőinek is jogi problémát jelent. Egyre népszerűbbek ugyanis a kifejezetten mesterséges intelligencia által generált pornót kínáló oldalak is. Ezeken az oldalakon azt írják: „A valósággal történő egyezés csak a véletlen műve.”
A 2023 márciusában induló PornJourney például 15 dollárt kér havonta azért, hogy „valósághű és élethű modellekről” készült felvételekhez férjünk hozzá. A 12 ezer feliratkozóval és kétmillió látogatóval rendelkező PornPen is hasonló összeget kér.
Az ő adatbázisuk az interneten nyilvánosan elérhető hatmilliárd(!) fotó közül keveri össze a modell tulajdonságait a felhasználók igénye szerint. Ennek női hírességek, politikusok és médiaszemélyiségek esnek leggyakrabban áldozatul, hiszen róluk érhető el a legtöbb felvétel online.
Az egyik AI-pornót gyártó oldal, az Unstable Diffusion eleinte úgy igyekezett legális adatbázist kiépíteni, hogy ingyenes prémium tagságot nyújtott azoknak, akik önként elküldik a fotóikat. Azt állítják, 15 millió fotót sikerült összeszedniük ezzel a módszerrel.
Mások a hagyományos pornóoldalak és közösségimédia-oldalak képeit használják fel a mesterséges pornófilmgyártáshoz. Ez is jogi problémákat vet fel, hiszen a stúdiók vagy a közösségimédia-oldalak tulajdonában álló képeket használják fel olyan oldalakról, amelyek tulajdonosai hirdetésekből és feliratkozásokból élnek. A Getty mellett több stockfotó-adatbázis beperelte már a Stability AI-t és a Midjourneyt, mert engedély nélkül használták fel a náluk található képeket saját adatbázisaikhoz.
Az MI-szereplő élettelen és kortalan
Az új generációs pornó a Twitteren és az Instagramon is terjed, de egyértelműen a Reddit a mozgatórugó. Ott nagyobb lendületet ad a terjesztésnek, hogy csak egy nicknév jelöli a felhasználót. A Twittert és az Instagramot többen használják személyes oldalként.
A Reddit ugyan egyáltalán nem helyez el felnőtt tartalmat hirdetésben, de figyeli a felhasználók kattintásait, és követi, hogy a felnőtt tartalmakat nézők melyik, más témájú fórumokat szokták böngészni. Steve Huffman, a Reddit ügyvezető igazgatója nemrég arról beszélt a New York Timesnak: az olyan tech óriások, mint a Google, a Microsoft és az OpenAI, már nem sokáig garázdálkodhatnak ingyen a Reddit adatbázisával.
Nicola Henry, a Melbourne-i Királyi Műszaki Egyetem online szexuális visszaélésekkel foglalkozó kutatója szerint gyakori, hogy a Redditen kiskorúnak kinéző lányokról gyártanak képeket az MI segítségével. Henry szerint ez azért is problémás, mert ha élő lányokról lenne szó, akkor ez bűncselekménynek számítana, így viszont újabb jogi szürkezónát teremt.
A leginkább a hirdetésekből és prémium feliratkozókból élő Reddit értékét legutóbb 10 milliárd dollárra becsülték. Nem lenne azonban meglepő, ha néhány ország jogi szabályozása hamarosan gátat szabna az oldalon terjedő mesterséges pornónak. Egy ilyen lépés után pedig az üzemeltetők is szabálymódosításra kényszerülnének.
