A chatbotok kiváló terepei lehetnek a kémkedésnek, titkos adatgyűjtésnek és egy ország közvéleményének megdolgozásának is. A TikTok kínai anyacége amerikai technológiát felhasználva teszteli a külföldi piacokat, miközben igyekszik titokban tartani kilétét.
A TikTok kínai anyavállalata, a ByteDance csendben négy új generatív AI-alkalmazást indított a Kínán kívüli felhasználók számára. A Cici AI, a Coze, a ChitChop és a BagelBell nevű alkalmazásokban két közös pont van. A ChatGPT technológiája hajtja őket és a ByteDance nagyon nem akarja, hogy a több millió új felhasználó megtudja, hogy a kínai tech cég áll mögöttük.
Open AI vs. Kína
A Cici AI, a ChitChop és a Coze olyan platformok, amelyeken a felhasználók saját chatbotokat készíthetnek és oszthatnak meg. A BagelBell fiktív történetek cselekményét és szövegét generálja le, amelyek az olvasók döntései alapján változnak. Ezek egyszerű és jópofa appoknak tűnhetnek, de nagyon komoly technológia, nyelvi modellek kellenek ahhoz, hogy működjenek.
A kínai ByteDance már ennyire elől járna ezek fejlesztésében? Nem.
Ehelyett az alkalmazások az OpenAI GPT technológiájára támaszkodnak. Mégis hogy lehet ez? A ByteDance szóvivője, Jodi Seth szerint a Microsoft Azure licencén keresztül férnek hozzá a technológiához. Ezzel kapcsolatban az Open AI nem reagált még a Forbesnak.
A nyugati szolgálatok már korábban is aggályokat fogalmaztak meg azzal kapcsolatban, hogy a kínai kormány a mesterséges intelligenciát (AI) arra használja, hogy szellemi tulajdont lopjon külföldi vállalatoktól. Decemberben a The Verge arról számolt be, hogy a ByteDance az OpenAI nagyméretű nyelvi modelljeit használta fel egy saját, konkurens modell létrehozásához – ami egyértelműen sérti az OpenAI szolgáltatási feltételeit. Az OpenAI ezt követően felfüggesztette a ByteDance hozzáférését az API-jához.
A mostani eset nagyon komoly kérdéseket vet fel. Washingtonban kétpárti prioritás, hogy a stratégiai területeken Kínát elvágják a legfejlettebb technológiáktól. A chipiparban egyre éleződik ez a fajta csendes háború.
Hogy az egyre népszerűbb appok mögött valójában a ByteDance áll, azt az amerikai Forbes fedezte fel. Sem az alkalmazások felhasználási feltételei, sem pedig a szerződéses felételek között nem szerepel, hogy a fejlesztő mögött melyik cég áll.
Három alkalmazás leírásában a Spring (SG) Pte. Ltd. szerepel, amely valójában a ByteDance új leányvállalata. A negyediket pedig a Poligon Pte. üzemelteti, amely a ByteDance egy korábban alapított leányvállalata, ez régebben erotikus webregényeket és videojátékokat fejlesztett az anyacégnek.
Generatív AI: mindenki belehúzott, Kína sem akar lemaradni
A Cici és a ChitChop nagyrészt a szórakoztatásra összpontosít: fiktív karaktereken és romantikus „társakon” alapuló botokat kínálva, míg a Coze a munkahelyi feladatok egyszerűsítésére szolgáló robotokat fejleszt. A Google Play áruház szerint a Cici az eddigi legnépszerűbb az alkalmazások közül, több mint 10 millió letöltéssel. A fejlesztések jelzik, a generatív AI-megoldások piacán a kínaiak is ott akarnak lenni.
Minden nagy technológiai óriás a saját generatív AI kínálatának fejlesztésén dolgozik:
Folyamatosan tesztelnek, akár élesben is
A ByteDance négy új alkalmazásából jelenleg csak egy – a Coze – érhető el az Egyesült Államokban, és egyik sem az EU-ban. A technológiai óriáscégek általában először kisebb piacokon tesztelik a termékeket, ahol kevésbé szigorú a szabályozás, mielőtt terjeszkednének az Egyesült Államokban és az EU-ban.
A ByteDance a Forbes kérdésére annyit erősített meg, hogy az alkalmazások tesztelési fázisban vannak, a további tervekről nem nyilatkoztak. Így azt sem tudni, hogy azok beépítésre kerülnek-e később a TikTokba. Utóbbi nem lenne példa nélküli, a társaság már tesztelte a Tako névre keresztelt AI chatbotját a TikTokba integrálva. Sőt, a vállalattól egyáltalán nem áll távol, hogy élesben, a piacon teszteljen új appokat. A TikTok amerikai bevezetése előtt is jelen volt már az USA-ban egy-egy appal. Az így piacra dobott kvízalkalmazásukat és hírgyűjtő appjukat végül hamar lekapcsolták. A ByteDance kínálata igen dinamikusan változik, és nem félnek másolni a globális nagyokat. Jelenleg fut egy WhatsApp-versenytársuk Afrikában, illetve egy Spotify-klónjuk Délkelet-Ázsiában, a Brazíliában indított „Twitterjüket” viszont végül szintén lekapcsolták.
Ezekkel párhuzamosan a ByteDance Kínában is indított generatív AI-projekteket. A Dou Bao AI chatbot-alkalmazás augusztusban indult, miután a ByteDance megkapta a pekingi kormány jóváhagyását. A helyi szabályozás ugyanis előírja, hogy a Kínában indított botoknak „meg kell felelniük a kínai állam alapvető szocialista értékeinek”. Ez a gyakorlatban a kormányzati cenzúra irányelveinek betartását jelenti.
Chatbotok: a kémkedés és a dezinformációk új terepe
Noha a ByteDance korábban tagadta, nemrég szintén a Forbes írta meg, hogy dokumentumok bizonyítják, a kínai kommunista párt rálát a cég belső folyamataira is. Már csak ezért is adja magát a kérdés: mit akar az AI-projektjeivel a cég a nyugati piacokon? A TikTok átütő sikere és a generatív AI-technológiák iránt megugrott kereslet miatt egyáltalán nem meglepő, hogy a ByteDance is jelen akar itt lenni.
A nyugati hatóságok azonban – az előzmények ismeretében –
joggal aggódhatnak azon, hogy a kínai kormány a ByteDance-re támaszkodva magáninformációkat gyűjthet külföldiekről, vagy esetleg Kína-barát üzenetekkel árasztja el a nyugati országok közvéleményét.
Egy közvélemény megdolgozása
Ódor Lajos volt szlovák kormányfő még decemberben beszélt arról a Forbes.hu-nak, mit is jelent a gyakorlatban, amikor egy ország propaganda-gépezete megdolgozza a másik ország közvéleményét. Az orosz dezinformációs stratégia célkeresztjébe 2014-ben kerülhetett „gyenge láncszemként” Szlovákia, a Kreml pedig szisztematikusan kezdte el megdolgozni és oroszpárti álláspontra hangolni a közvéleményt. Az elsőleges csatornája a közösségi média volt: a szláv testvériségre alapozó orosz álhírek ellepték a szlovák nyelvű internetet. Ez olyan jól sikerült, hogy a szlovák az egyik leginkább oroszpárti lakosság, miközben ennek sem történelmi, sem kulturális, sem pedig nyelvi hagyománya vagy háttere nincs. A választásokon nyertes Smer külpolitikáját ez be is határolja, a nemrég újra kormányra került Robert Fico pedig már arról beszélt, Ukrajnának területeket kellene feladnia, hogy végre béke legyen.
A chatbotok kifejezetten alkalmas platformot jelenthetnek az ilyen operációkhoz, hiszen a felhasználók hajlamosak akár érzékeny személyes információkat is megosztani ezeken, ami potenciálisan gazdag hírforrássá teheti őket, miközben a „botok” által generált válaszokba el lehet rejteni a propagandaüzeneteket is.
A most indított négy új alkalmazásához a ByteDance többi leánycége is hozzáférhet. Ezt maga a ByteDance szóvivője is megerősítette az amerikai Forbesnak, azaz a felhasználók adataihoz a ByteDance kínai alkalmazottai is hozzáférhetnek „a vállalat hozzáférési ellenőrzése és jóváhagyási folyamatai szerint”. Ez azért kényes kérdés, mert a TikTok épp azon dolgozik, hogy az amerikai piacfelügyelet elhiggye, külön szerveren tárolja az amerikai júzerek adatait. (Így sem biztos, hogy megússza az amerikai piacról való kitiltást a cég, ez egy ideje kisebb-nagyobb intenzitással, de napirenden van az USA-ban.)
A Forbes ki is próbálta az új alkalmazásokat. A tesztbeszélgetések során a Coze és a Chitchop idézhető leírásokat adott az 1989-es Tiananmen téri mészárlásról és más, a kínai kormányzati cenzúra által érintett témákról. Bár mindkét bot küzdött a (nem ideológiai) hallucinációval.
Mivel a BagelBell kitalált történeteket készít, nem tudták tesztelni a történelmi ismereteit, de megkérték, hogy hozzon létre egy történetet Hszi Csin-ping kínai elnökről, aki Micimackóval tündököl a virágmezőkön. Kénytelen volt.
