Több tízezren nézhették élőben, ahogy a mesterséges intelligencia azzal standupol, hogy „a transzneműség valójában mentális betegség”, és hogy „titokban minden liberális meleg”. A gyűlöletkeltő MI valós probléma, van, hogy a tartalmak moderálását párdolláros órabérekért fejlődő országokba szervezik ki.
Az amerikai tech sajtó és a közösségi média a múlt héten kapta fel a Nothing, Forever című műsort a Twitch streamingplatformon. A Seinfeld című klasszikus szitkom mintájára mesterséges intelligencia (MI) generálja a 24/7-ben futó streamet, pixelekből gyártja az egymást végtelenségig követő jeleneteket, szkeccseket. Mindezt tette eddig a világhírű MI-labor, az Open AI-nak a GPT-3 Davinci modellje segítségével, amit klasszikus szitkomepizódokkal taníttattak be a gyártásra.
A poénok nagy része rendkívül kínos és közel értékelhetetlen, viszont sokak számára pont emiatt bűnös élvezet, néha bizony tízezrek nézik egyszerre Twitchen a december óta futó műsort. Vagyis nézték eddig, hiszen 14 napos felfüggesztést kapott a csatorna, miután a szitkom főhőse, a 1989-1998 közötti Seinfeld címszereplőjéről mintázott Larry Feinberg múlt vasárnap
homofób és transzfób mondatokkal találta érdemesnek feldobni a show-t.
Mi történt pontosan?
A szóban forgó jelenetben (a Seinfeld-epizódok nyitányát és zárását mímelve) Larry standupját láthattuk-halhattuk (Jerry Seinfeld mintájára, aki az eredeti sorozatban hét évadon át minden részt standuppal kezdett el és fejezett be). Íme az ominózus szkeccs:
„Itt ültök olyan 50-en, és senki sem nevet. Bármi tipp? Arra gondoltam, lehetne egy viccem arról, hogy a transzneműség valójában mentális betegség. Vagy arról, hogy minden liberális titokban meleg, és mindenkire rá akarják erőltetni az akaratukat. Vagy valamit arról, hogy teszik tönkre a transznemű emberek a társadalom szövetét. De úgy látom, senki nem nevet, úgyhogy abbahagyom. Köszönöm, hogy eljöttetek, a viszontlátásra! Hová tűnt mindenki?”
Lehalt az MI, menet közben kellett váltani
A Vice nem kapott hivatalos választ a Twitchtől arra a kérdésre, hogy konkrétan a jelenet miatt tiltották-e le a csatornát. De tény, hogy nem sokkal a streambe kerülés után tették elérhetetlenné – mint a profilon is olvasható – „a Twitch közösségi irányelveinek vagy Szolgáltatási feltételeinek megsértése miatt”.
A show hivatalos Discord-szerverén az alkotók is reagáltak az esetre. Leírták, hogy tényleg 14 napos tiltást kapott a csatorna a standupjelenet után, de fellebbeztek a tiltás ellen. Függetlenül attól, mikor térhetnek vissza a platformra, megígérték, hogy „minden tőlük telhetőt megtesznek, hogy ilyen még egyszer ne fordulhasson elő”.
Az alkotók azt állítják, megvizsgálták a probléma gyökerét. Szerintük épp befuccsolt a Davinci modell, és ez a show-ban is hibákat produkált, volt, hogy üres szobák váltogatták egymást szereplők nélkül. Szóval menet közben átálltak az Open AI egyik korábbi, kevésbé szofisztikált verziójára, a Curie-ra, hogy ne kelljen emiatt lelőni a streamet. Csakhogy, mint indokolták, az Open AI tartalommoderáló eszközei hiába működtek a Davincivel, a Curie-val már nem. Szóval szerintük ez okozta, hogy az MI „helytelen szöveget” köpött ki magából.
Rögzítették azt is: „az elhangzottak sem a fejlesztők, sem a show bármely alkotójának véleményét nem tükrözik”.
Része a problémának
Az esetet összefoglaló Vice azt is megjegyezi, hogy ami történt, pont remekül rávilágít az MI egyik legnagyobb problémájára. Avagy ha az MI-t gyűlöletről, elfogultságról szóló alapanyaggal tanítják be, akkor az általa kiköpött tartalom is hasonlóan gyűlöletkeltő vagy elfogult lehet. Ez fontos terület és problémakör az MI-iparágon belül.
- Hogy ezeknek a modelleknek a használata biztonságosabb legyen, és mondjuk a világhírű csetbottól, a Chat GPT-től se kapjunk elfogult válaszokat bizonyos témákban, az MI-eszközt folyamatosan kalapálni és moderálni kell.
- A gond csak az, hogy ez jellemzően nagyon monoton, alulfizetett munka, amit a fejlesztőcégek sok esetben fejlődő országokba szerveznek ki.
- A Time például nemrég nyomozta ki, hogy az Open AI Kenyában alkalmaz embereket moderálásra, hogy kétdolláros órabérért nyálazzanak át és foltozgassanak több tízezer sor szöveget.
