Tilesch György a mesterséges intelligencia (AI) nemzetközileg elismert szakértője. A Forbes.hu-nak adott interjújában szerzőtársával írt és magyarul a napokban megjelent könyve kapcsán beszélgettünk az AI-ban rejlő lehetőségekről és veszélyekről, az autokráciák és demokráciák közt kiéleződő versenyről, formálódó munkahelyekről, kapitalizmusról és elkerülhetetlen megfigyelésről, valamint arról, mit tehetünk, hogy ne őrüljünk bele a környezetünket és minket is alakító hihetetlen mértékű fejlődésbe.
Forbes.hu: Egy intelemmel kezditek a könyvetek, amiben a lelkiismeretére akartok hatni az olvasónak. Erre van a legnagyobb szükség? A lelkiismeret felébresztésére az AI-fejlesztésekkel kapcsolatban?
Tilesch György:
Az emberiség jelen pillanatban egy rakétaautóban ül az anyósülésben, biztonsági öv nélkül.
A technológiai fejlődés és a versengés irányítják most a folyamatot. A közeljövőben lesznek fékek és ellensúlyok, de az egész dolog nem működik, ha nincsenek emberi és társadalmi eszmélések, valamint mozgalmak, amik kikövetelik, hogy a mesterségesintelligencia-fejlesztések a civilizációs érdekeinknek megfelelően történjenek.
A legnagyobb probléma a világszerte tapasztalt bizalomvesztés. Megingott a bevett kapitalista világrend és van egy előretörő autokrata erő, ami a mesterséges intelligenciát jelen pillanatban tudatosabban és koncentráltabban tudja használni. A demokratikus társadalmaknak pedig nincs megfelelő válasza arra kérdésre, hogy milyen mesterséges intelligenciára van szükségünk. A társadalom és a politika figyelmét is fel akarjuk hívni arra a könyvvel, hogy az AI-ról szóló vita tettekkel párosulva nagyon fontos lenne.
Az erőszakos bébi
Forbes.hu: Ahhoz képest, hogy azt mondod, egy rakétában ülünk, a könyvben gyerekcipőben járó AI-ról írtok.
A nagy felkiáltójelünk éppen az, hogy hiába bébi még sok szempontból az AI, intellektuálisan nagyon erőszakos gyerek. Hatalmas ereje van, erre kell koncentrálni, és nem az okosságára.
A legtöbben a hollywoodi scifiken keresztül találkoznak a témával. Így az a – szerintem – nagyon kártékony szemlélet határozza meg a gondolkodásunkat, hogy mikor lesz az emberi értelemmel egyenértékű mesterséges intelligencia. Ezek hagymázas kérdések, amikről egyébként imádnivaló gondolkozni és jól el lehet róla beszélgetni egy sör mellett, de jelen pillanatban nem ez a lényeg.
Hanem az, hogy az AI hívószó alá csomagolt tucatnyi technológiai ágazat milyen hatást tud kifejteni már most. Erre még nem érkeztek megfelelő válaszok, mert mindenki – sokszor jól felfogott érdekeknek megfelelően – a jövőbe tekint, ahelyett, hogy a már most is égető kérdések megoldásával foglalkozna.
|
Tilesch György
Globális AI- és innovációszakértő, rendszeresen ad tanácsot kormányoknak minden kontinensen, köztük a Feher Háznak és az EU-nak. Dolgozott a Microsoftnak és a Fortune 50-nek, számos nemzetközi szervezetnek – köztük a Világgazdasági Fórumnak és a Madridi Klubnak – valamint think tanknek, és gyakori meghívott előadó amerikai és európai egyetemeken mesterséges intelligencia témában. Kaliforniában él, a Szilícium-völgyben alapította meg a PHI Intézetet, amellyel az AI etikus és közérdeket segítő felhasználásának előmozdítása a célja. Az Egyesült Államokban tavaly adták ki BetweenBrains című könyvüket szerzőtársával, a NASA korábbi innovaciós vezetőjével, Omar Hatamlehhel. Ezen a héten magyarul is megjelent Mesterség és intelligencia címmel, és pár nap alatt a sikerlistákra került. A magyar kiadás megjelenését támogató megjelenését támogató Neumann Társaság mesterséges intelligencia nagykövete.
|
Forbes.hu: Mikor lépnénk ki ebből a gyerekcipőből és mit jelente az?
Az alaptézisem szerint a deep learning és a machine learning valójában korlátos technológiák. Ha Neumann Jánoshoz és John McCarthyhoz hasonlóan fogalmazzuk meg az AI várható fejlődési pályáját és mindenképpen az Artificial General Intelligence, vagyis az általános szuperintelligencia létrehozása áll a középpontban, arról azt gondolom, hogy
a jelenlegi technológiával elérhetetlen.
Azt viszont el lehet érni, hogy ezek brutálisan erősek és kiterjedtek legyenek – sőt, szerintem ezen túlvagyunk. Vannak ígéretes fejlesztések, de én azokkal értek egyet, akik azt mondják, hogy az út az emberi intelligencia felé igazából a kontextus felismerésének a képessége. Ehhez viszont olyan, korábban sarokba dobott fejlesztések előszedésére lenne szükség, mint a szimbolikus AI, amire azt mondták, hogy nem elég hasznos gazdaságilag.
Pedig nagy szükség lenne egy olyan rendszerre, ami nem egy adatzabáló szörnyeteg, mint a mostaniak, hanem logikai összefüggéseket, képzeteket képes a mesterséges intelligencia nyelvére konvertálni. Persze minden a céloktól függ: az emberi intelligenciához felnövő AI-t nem lehet a mostani keretek között létrehozni, ellenben a világ urává lehet válni.
Forbes.hu: A mostani fejlesztéseknek ez a célja? A világ urává válni?
Egyértelműen. Tulajdonképpen azon megy a verseny, hogy ki tesz szert behozhatatlan előnyre, legyen az technológiai vagy hatalmi. Azzal részben egyet tudok érteni, hogy a Szilícium-völgy erejét az ott lévő tudáskapacitás adja, és valószínűleg az új AI-iskolák is onnan fognak elindulni. Viszont ezek nagyon erősen gazdasági érdekek által kontrollált dolgok.
Az akadémiai szféra csak most ébred rá, hogy nem nagyon van más szponzora, mint az öt legnagyobb techcég, és a professzorainak jelentős része két helyről kapja a fizetését.
A nagyvállalattól és az egyetemtől – előbbitől pedig értelemszerűen sokkal többet, márpedig az ő kutatásaik elsőszámú kérdése úgy hangzik, hogy mi az, ami minél gyorsabban piacosítható.
Ha ebben a közegben kezdesz mondjuk szimbolikus AI-ról papolni, akkor megveregetik a vállad, és közlik, hogy erre majd térjünk vissza később.
Forbes.hu: Szóval a cégek kezében sokkal nagyobb hatalom van, mint az államokéban.
Ha úgy teszed fel a kérdést, hogy kinek van több ütőkártya a kezében, akkor egyértelműen a cégeknek.
Azt a maroknyi embert – tényleg nagyon kevesen vannak –, akik tudnak forradalmi AI-t fejleszteni, mind lenyúlták a nagyvállalatok.
Magyarán, ha egy állam akar ezzel foglalkozni, akkor nem tud csúcsminőségű embereket felvenni. Ez egy hatalmas probléma.
Emellett a cégek tesztelni is sokkal jobban tudnak. Tehát megvannak a bevett módszereik arra, hogy kipróbálják a piacon az új megoldásaikat. Mindezt úgy, hogy mi észre sem vesszük, hogy éppen kipróbálnak rajtunk valamit.
Kína, a kijelölt ellenfél
Forbes.hu: Ha ekkora előnyre tettek szert a vállalatok, akkor mit várhatunk az államoktól? Hogy majd jogszabályokat írnak, és azok megvédik a közérdeket? Eddig azt sem lehet feltétlenül látni, hogy a jelenleg fennálló problémákra van jó válaszuk, például a Facebook esetében.
Az USA most hagyta, hogy az EU tegye meg a kezdő lépést az AI-szabályozásban, sőt üdvözlte azt, és az is látszik, hogy ha nem is szövetségi szinten, de például Kaliforniában egyre több európai jogszabályt vesznek át. Adatvédelem tekintetében már nagyrészt európai sztenderdeket követnek.
De tágabb értelemben reagálva a kérdésre: a szabályozás csak egy eszköz a sok közül. Amerikában azt látjuk, hogy az állam egy év alatt elképesztően felpörgött AI-ban, szinte a nulláról, már ami a politikai akaratot és a koncentrált befektetést illeti. Ez azt jelenti, hogy korábban a hadászat és a hírszerzés foglalkozott vele, és úgy voltak vele, hogy minden más területet vigyenek a cégek, ameddig ezek is amerikaiak, addig gond sem lesz. De ez változott.
Egyrészt a Facebook, a Google és a Twitter kétpárti tűz alatt vannak. A demokraták és a republikánusok is durván osztják őket, ezért fél éven belül reális, hogy valami erős regulatív beavatkozás fog megszületni.
A demokraták már eddig is forszírozták ezt, a Donald Trump letiltásával elinduló viták miatt pedig a republikánusok is felültek erre a biciklire. És ők is érzékelik, hogy ezen kívül is rengeteg probléma van.
A techcégek megregulázása mellett még a Kína elleni harc jelentett fordulópontot.
Amerika akkor dicső és nagy, ha van egy nagy ellenfele. Onnantól kezdve, hogy ezt az ellenfelet Kínában jelölték ki, gyakorlatilag nagykoalíció született.
A demokraták és a republikánusok egyetértenek abban, hogy Kína az elsőszámú probléma (Oroszország a második), és mindent ennek rendeltek alá.
Kína a Nyugat ellen: így érint majd minket, hogy a káosz évtizede után jön az új világrend
Biden alatt tulajdonképpen úgy mérettetik meg minden cég, hogy hajlandó-e igazodni a kormány által kijelölt célhoz – ami a verseny Kínával. Így akik eddig kétkulacsos játékot játszottak – jó pár ilyen cég van –, azoknak kampó. Nem kapnak állami megrendeléseket, kiesnek a pikszisből. A Szilícium-völgyben el is kezdődött a tülekedés az állam kegyeiért. Ennek jele az Apple totális pálfordulása is az adatbiztonság kérdésében – közben meg mutogatnak a Facebookra, hogy ők mennyivel rosszabbak.
Forbes.hu: Valóban ekkora kihívást jelent Kína?
Én azokkal értek egyet, akik az amerikai kormányzat környékén is azt mondják, hogy Kínának nagy momentuma van, hatalmas befektetéseket koncentrál, de a legtöbb területen még jóval Amerika mögött van. Jön föl, mint a golyó, de egyáltalán nem ledolgozatlan a hátrány. Ahhoz viszont éppen elég, hogy mobilizálja az amerikaiak gondolkodását.
Az USA elsősorban az évente többszázezer, amerikai egyetemekre érkező kínai diákban lát nemzetbiztonsági kockázatot.
Nagy részük éppen tech– és AI-területen tanul, nyolcvan százalékuk pedig a diplomaszerzés után nem megy haza, és ki tudja, mit csinálnak aztán a munkájuk mellett.
Egy Fehér Ház koordinálta MI-tehetsegmenedzsment program, amelyben most én is dolgozom, és e hetekben indul hivatalosan, éppen arról szól, hogy hogyan lehet felépíteni azokat a kompetenciákat, amik az amerikai köztisztviselői karból teljesen hiányoznak. Nagyjából négy év alatt kell 18 millió embert átképeznünk.
Az AI nem dönt: csak ajánl
Forbes.hu: Mit kellene tudnia egy köztisztviselőnek az AI-ról?
Ami most még egyértelműen hiányzik – és ez a Kína jelentette kihívásra válasz –, hogy legyen a kormányzaton belül specialistából álló csapat, amelyik képes nagy kormányzati AI-projekteket beindítani. Ez a kormányzati szolgáltások igen széles körét jelenti, tehát lehet akár egy segélyelbíráló rendszer is. Viszont ami a 18 millió embert érinti, az az, hogy amikor az ilyen kormányzati mesterséges intelligencia-megoldások használatba kerülnek – ilyenből ötven egyébként már most is működik –, akkor az ügyintézőknek a technológia mély megértésére és rutinra van szükségük, hogy felül tudják bírálni egy AI-ajánlását.
Az egyik legnagyobb gondnak én azt látom, és ezt már publikus tanulmányok is igazolják, hogy nagyon könnyen engedjük át a döntést a mesterséges intelligenciának.
Már a terminológia is ezt sugallja: azt mondjuk, hogy az AI döntött helyettünk.
Holott ő csak javasol. Mindig rajtunk múlik, hogy felülbíráljuk-e vagy sem. De ha erre egy ügyintézőt nem motiválnak és nem képeznek ki, akkor úgy maradtunk.
Forbes.hu: Van azért itt egy aggasztó dolog. A nyugati világban legalább a látszata megvan annak, hogy figyelnek az emberek igényeire, a jogaikra vagy az adataikra. Kína viszont ebből nyilvánvalóan nem csinál problémát, és nehezen elképzelhető, hogy ha egy lépés etikátlan, de lépéselőnyt garantál neki, akkor lemondana annak megtételéről. Nem veszélyes az, hogy éppen emiatt kerülhetnek az autokráciák és diktatúrák előnybe a demokráciákhoz képest?
Megvannak a határai annak, amit Kína csinál.
Profánul fogalmazva: előbb-utóbb el fogják érni a maximális számát azoknak az országoknak, ahol le lehet fizetni valakit és alkalmazni lehet ezt az „olcsó vagyok, és nem teszek fel kérdéseket” attitűdöt.
A Biden-adminisztráció nagy hangsúlyt fektet arra, hogy megtalálja potenciális partnerként azokat az országokat, ahol erősödik a nyomulás, vagy éppen kínai érdekszférában vannak, de már kapálóznak a szabadulásukért.
Ez most a színvallások kora nekik, és az amerikaiak el is akarják érni ezt a színvallást.
Annak pedig megvannak a kulturális határai, hogy meg lehet-e egy országban ugyanazt csinálni a megfigyeléssel, mint amit Kínában. A legtöbb társadalomban ez szerintem nem lehetséges, és nemcsak a jogi, de az emberi, erkölcsi, értékrendbeli fékek miatt sem. Ebben az EU egy viszonylag extrém álláspontot képvisel.
Az első, itt megszületett AI-szabályozás nagyon erősen kockázatalapú. Egyrészről bizonyos manipulatív vagy megfigyelésalapú technológiákat tiltani fog, és igen széles körét szabta meg az iparágaknak és AI-alkalmazásoknak, amiknek előminősítési folyamaton kell végigmenniük a bevezetésük előtt. Utána is elvárás a folyamatos monitorozás.
Kína az ilyen akadályokon szerintem el fog hasalni, magyarán nehezebben fog tudni Európában eladni.
A lassú átalakulás az ijesztőbb
Forbes.hu: Amikor a Musk-portréhoz készítettem veled interjút, és a Tesla-vezér AI-jal kapcsolatos egyik jóslatát felidéztem – miszerint hamarosan valami katasztrofális következménye is lehet az ilyen fejlesztéseknek – akkor én azt mondtam, hogy ebben Musknak egyelőre nem lett igaza. Te pedig visszakérdeztél, hogy honnan tudjuk? Milyen rejtett veszélyek vannak, amik egy darabig akár észrevétlenek is maradhatnak?
Én nem a robbanásszerű eseményektől tartok, hanem a lassabb, lopakodó transzformációktól. Radikális esetben ide sorolom azt, amit az AI a munkaerőpiaccal fog tenni. Ha nem gondolkozunk nagyon tudatosan öt évre előre képzési programokkal, akkor komoly károk lesznek a munkaerőpiacon. Ugyanekkora veszélyeket látok a közösségi média ránk gyakorolt hatásaiban.
Hogy hagyhattuk magunkat ilyen szinten megosztani és dezinformálni?
Ezek nem egyik pillanatról a másikra, hanem folyamatosan okoztak egyre nagyobb kárt.
Forbes.hu: Mi az, ami robbanásszerűen okozhat károkat?
A mesterséges intelligenciát két tulajdonsága különbözteti meg jelentősen a korábbi szofverektől: az autonómia, amivel együtt jár az átláthatatlanság. Valahogy mégis el kell magyaráznunk az embereknek, hogy miképp hoztunk döntést, és neki el kell fogadnia, hogy tényleg ez a legjobb.
A másik pedig az elképesztő mennyiségű feladat, amit fel tud dolgozni. Éppen azért alkalmaznak és fejlesztenek AI-t, mert nem kér fizetést, mégis, mondjuk kismillió kérvényt tud másodpercek alatt lefuttatni és elbírálni, ami egy köztisztviselői karnak évekbe telt volna.
Egy rossz döntés, és akár milliók élete keseredhet meg percek alatt. Ezt pedig nem lehet a tipikus Szilícium-völgybeli mentalitással letudni, hogy „oké, volt itt egy bug, de két hét múlva csinálunk egy frissítést és mindenkinek jobb lesz”, mert életek mehetnek tönkre.
Forbes.hu: Tehát nem is az az elsőszámú probléma, hogy sokak munkája feleslegessé válik, hanem az, hogy a legapróbb hibák is óriási károkat okozhatnak?
Ezt nem állítanám szembe, én mindkettőt egyenlően fontosnak tartom. Sőt, ki merem jelenteni, hogy a munka világában biztosan lesznek gondok. Az előregondolkodás fontosságát pedig azért hangsúlyozom, mert néhány éven belül eljuthatunk oda, hogy egy vállalatigazgatónak az lesz a kérdés, hogy adva van neki egy automatizáló rendszer, ami a munkavállalók által végzett feladatok hetven százalékát el tudja végezni. Ez alapján pedig döntést kell hoznia. Vajon mit fog tenni?
Forbes.hu: Kirúgja az emberek hetven százalékát?
Legalábbis sokan fognak így dönteni, ha semmi nem fékezi őket. Mert egyszerűen verseny van, és ha nem akarsz lépéshátrányba kerülni, akkor nem lehet kétséges, hogy mit fogsz húzni.
Forbes.hu: Erre szokták az optimisták azt mondani, hogy emberi munkára mindenképp szükség lesz, és a gépek a jövőben is inkább velünk, nem helyettünk dolgoznak majd.
Ez sok fehérgalléros szakmára igaz lesz, a kékgallérosokra és a junior fehérgallérosokra viszont nem.
Minden folyamatalapú munka veszélyben lehet.
De fontos, hogy itt se fekete-fehér alapon gondolkozzunk – ezért mondtam a hetven százalékot is. Ha adott szakmában valaki munkájának a hozzáadott értéke ötven százalékra csökken, akkor az azt jelenti, hogy egy tízfős csapat ötven százalékát rúgják ki.
Attól én sem tartok, hogy a közeljövőben egész szakmák borulnak, de ha valamelyiknek a hetven százaléka igen, az is kataklizmát jelent.
Nem azt mondom, hogy megoldhatatlanok a problémák, de ha a jelenlegi logika alapján működnek tovább a dolgok, akkor baj lesz.
Akiknek elengedték a kezét
Forbes.hu: A kapitalizmus hirtelen megreformálása viszont nem tűnik éppen reális feladatnak.
Én nem vagyok ennyire pesszimista. Sok politikussal beszélek világszerte, és már két-három évvel ezelőtt is nyugati pártvezetők hívtak személyes beszélgetésekre, mert kíváncsiak voltak az AI-témára és programot akartak ebből faragni. Alapvetően a munkaerőpiaci kérdések érdekelték őket.
Ha egy párt vagy politikus ezt a zászlójára tűzi – aminek persze egyelőre kevés jele van, de ez mindenképpen be fog következni –, akkor itt igenis lehet előrelépés. A techcégek megadóztatása, egy alap létrehozása az átképzések finanszírozására, céges és kormányzati tehetséggondozó együttműködések elindítása – számos lehetőség van. Szabad szemmel még nem láthatóak ezek, az ár viszont jön.
Forbes.hu: Melyik iparágakban vannak a leginkább veszélyben a munkavállalók?
Amerikában a pénzügyi, az IT- és a telekommunikációs vállalatok már komolyan fektetnek a munkatársaik átképzésébe. A logisztikában és a kereskedelemben – ideértve a nagy áruházláncokat – ez elmaradt. Félő, hogy ezek a cégek elengedték a munkavállalóik kezét. Amerikában már így is sorra zárnak be a korábban az ország kvázi szívcsakrájának tartott bevásárlóközpontok, és nem tudom, mi lesz az ottani munkavállalókkal.
Közben látszik, hogy az állam reagál. Eddig a GDP nagyjából 0,4 százalékát szánták kormányzati átképzési programokra – ebben Európa mindig az USA előtt járt –, most meg szinte a semmiből kinő csak a kormányzati átképzésre egy húszmilliárd dolláros program. Ők is rájöttek, hogy ezt nem lehet egyedül a cégekre bízni, mert kataklizma lesz, és minden politikus megissza a levét.
Forbes.hu: Szóval bízzunk az államban. De erre meg jogosan veti fel az egyszerű polgár, hogy Edward Snowden és Julian Assange után ezt ugyan miért tenné.
Jogos, de kiben bízhatnának meg? Egyébként ha az iparági bizalmi indexeket megnézzük, azt látjuk, hogy még mindig az informatika iránt a legnagyobb a bizalom. Mert szexi, csilivili és mindenki szereti az Apple-telefonját.
A bizalmat ki kell érdemelni, és ezt csak alulról építkezve lehet elérni. Azt is jogosan lehet felvetni, hogy az utóbbi években minden nagy hanggal beharangozott reform megakadt, hol a lobbisták, hol a hatalmi összefonódások miatt.
Tényleg csúnya az összkép. Kiüresedett demokráciákban és piacgazdaságban élünk.
Egyik pillanatról a másikra ez nem megváltoztatható. Én abban hiszek, hogy vannak azért eminens tanulók – sok esetben kisebb államok –, amelyek valamilyen modellértékűt tudnak mutatni, legyen szó szociális piacgazdaságról vagy jól működő demokráciáról. Emellett innovatívak és kockázatot is mernek vállalni különböző politikák kipróbálásával, amit az AI nagyon tud támogatni és optimalizálni. Erre fog menni a világ.
Ahogy ma piacra dob valaki egy alkalmazást, amit aztán mindenhol a világon elkezdenek használni, úgy az ilyen mintaállamokban megszületnek majd a szabályok, amik miután bebizonyítják a létjogosultságukat, ugyanúgy végigszáguldanak a világon. De ez nem lesz könnyű.
Forbes.hu: Van olyan ország, amit példaértékűnek tartasz a mostani kihívások kezelése szempontjából?
Sok ígéretest látok. Új-Zélandon, Svájcban, Kanadában, a Benelux-államokban és Skandináviában is vannak jó megoldások.
Forbes.hu: Mi az, amit tőlük érdemes átvenni?
A nyugat-európai nagyvárosok közül sok zabálja az okosvárosprojekteket. Ezekbe viszonylag könnyű AI-alapú, életminőségnövelő megoldásokat telepíteni.
Amszterdam, Koppenhága és Helsinki élen jár az etikus AI-használatban.
Rendelkezésre állnak az információk az állampolgároknak arról, hogy milyen mesterséges intelligencia van az alkalmazásban, amit éppen használnak, mi alapján tesz javaslatokat és hogyan lehet ez ellen fellebbezni. Talán egyre inkább egyes városok, és nem az államok mutatnak gyors és eredményes utat.
Aztán persze ott a másik véglet, például Dubajban. Az Egyesült Arab Emírségek finoman szólva sem egy demokratikus állam, az egyik legfontosabb mérőszámuk mégis a boldogságindex. Minden kormányzati szolgáltatást ez alá rendelnek, és jól is teljesítenek benne. Amikor ott dolgoztam idén, láttam azért vicces dolgokat.
Dubajban van 150 ezer kamera, amiket alapvetően megfigyelésre és bűnüldözésre használnak. Amikor aztán jött a koronavírus-járvány, két hét alatt átalakították ezeket a maszkviselés csekkolására.
De hogy egy ennél is hétköznapibbat mondjak: van egy olyan programjuk, ami valós időben figyeli, hogy nyitva hagytad-e a csapot, miután elmentél otthonról. Ha gyanúsan megugrik a vízfogyasztásod, kiküldenek valakit, hogy megnézze, nincs-e csőtörés. És az is előrelépés, hogy most már nem vendégmunkások tisztítják a napelemfarmokat a hatvanfokos melegben, hanem robotok és drónok.
Szóval minden rosszban lehet valami jó. Dubaj nagyon érdekes világ ebből a szempontból. Tökéletes hatékonyság és AI-befektetések jellemzik, miközben a felvilágosult abszolutizmus a boldogságindex emelésének céljával párosul.
Világ neoszocialistái, egyesüljetek
Itt visszatérünk oda, hogy egy ilyen kamerarendszer vagy akár a vízművek AI-szoftvere – legyen akármennyire hasznos – befurakodik a személyes terünkbe, és Európában aligha mozdulna ennyire könnyen pozitív irányba a boldogságindex, mint az Emírségekben. Nem lehet, hogy ezért a tényleg hasznos dolgok is nehezebben honosodnak majd meg nálunk?
A könyvünk egyik tézise, hogy valamilyen megfigyelés elkerülhetetlen.
A kérdés az, hol tudjuk ezt megfogni. Az EU-nak például egyértelmű szándéka, hogy a biometrikus alapú megfigyelést ne engedélyezze. Kivéve rendészeti, katonai, hírszerzési és terrorelhárítási folyamatokra – vagyis köszönjük szépen, de egyáltalán nem oldotta meg a problémát.
Az ilyen határok meghúzásával fogunk jódarabig vesződni. Hogy eldöntsük, mi számít polgári, mi katonai használatnak, melyikbe mi fér bele. A megfigyelés olyan formáját kell létrehozni, amivel kapcsolatban még az az élménye az embereknek, hogy az nettóban hasznos. A kulturális különbségekről meg annyit, hogy a világon az egy főre eső legtöbb térfigyelő kamera Londonban van, és az egész Egyesült Királyságban nagyon elterjedt. Szeretik, nem szeretik – ez van. A határt kell tudni meghúzni a használatukban.
Mert közben meg, ha neadjisten lesz egy újabb terrorcselekmény Párizsban, meg kell magyarázni, hogy miért nem használtunk fel minden rendelkezésre álló eszközt ennek megakadályozására.
Forbes.hu: A társadalom részéről honnan jöhet majd a legnagyobb nyomás az AI-ra és annak szabályozására?
Már most látszik, hogy a nyugati társadalmakban a közösségi média és az adatvédelem kérdését egyre többen veszik komolyan, ez folyamatosan formálódik és alulról építkezik. Szerintem az is elkerülhetetlen, hogy a munka világában is legyen valamiféle neoszocialista mozgolódas, akár az alapjövedelem-vita is felerősödhet.
Mivel Európa-szerte törnek előre a zöldek, valószínűleg fenntarthatósági oldalról is lesz valamilyen mozgalom.
Méghozzá azért, mert egy alap AI-modell betanítása nagyjából öt autó egész élettartama alatt kibocsátott károsanyagát eregeti a levegőbe.
El lehet képzelni, mit jelentene ez nagy rendszerek esetében, ha nem nyúlunk hozzá a technológia alapjaihoz.
Józannak maradni
Forbes.hu: Ti is írtok a könyvben az asztronautákról, akiknek a mentális egészségét nagyon megviselheti az egyedüllét. Ezt majd egy AI monitorozza, és akár empátiát is mutathat felé, ha arra szüksége van. Ha ez segít, természetesen rendben van, de mi van, ha ez a mindennapjainkba is beivódik? Nem félő, hogy az egyének érzelmei is kiüresednek, elgépiesednek ezáltal?
Forbes.hu: Dehogynem. De az algoritmizálódásunk már tart egy ideje. Ha megfigyeled, mit csinálnak a digitális marketingesek és growth hackerek, akkor már látod is ezt. Tulajdonképpen algoritmusokat hekkelnek. Ahelyett, hogy egy ütős marketingkampányon dolgoznának, kitalálják, hogy Linkedinen mekkora sorközzel hány karaktert kell írnia valakinek, hogy többen lássák a bejegyzését.
Megerőszakoltak egy szakmát, ha úgy tetszik. Ahol megjelenik az AI, ott rögtön az lesz a kérdés, hogy hogyan lehet meghekkelni.
Azok a fejlesztők lesznek sikeresek, akik jól tudják imitálni az emberi oldalt. Egyáltalán nem véletlen, hogy a tervezett EU-s szabályozás szerint a mesterséges intelligenciának mindig jeleznie kell, hogy ő nem ember, ha annak imitálására hozták létre.
Forbes.hu: Főleg az elkerülhetetlennek tűnő dolgokról beszéltünk. Pedig te sokmindent optimistán látsz és azt gondolod, egyáltalán nincs eleve elrendelve.
A szerzőtársammal van egy apró vitánk. Ő sokkal több dolgot tart elkerülhetetlennek, mint én.
Szerinte például előbb-utóbb digitális avatarok lesznek belőlünk, és azok beszélgetnek majd egymással. Én meg nem hinném, hogy ennek mindenképp így kell lennie.
Lesznek cégek és kultúrák, ahol ez elfogadott lesz, de nem mindenhol. Megjelennek ellenmozgalmak, amik mondjuk egészséges AI-t akarnak, és másfajta határokat húznak.
Ezek a mély, filozófiai kérdések, amiken már ma is sokan elmélkednek. Tízezrével dolgoznak emberek, akik nem feltétlenül AI-fejlesztők, hanem társadalmi problémákat elemeznek, tág értelemben vett AI-eticisták. Ők most a saját csatornáikat keresik alternatív modellek felállítására, technológiák fejlesztésére. Az intézetünk és én biztosítani akarjuk ezt nekik.
Forbes.hu: Egy rakétás hasonlattal kezdted a beszélgetést. Szerinted mi elől kell elhúznunk a fejünket a száguldás közben a közeljövőben?
Rövid távon mindenkit arra sarkallok, hogy tegye rendbe a gondolkozását. Töltsön minél több időt digitális detoxszal és rigorózusan alkalmazza a kritikus gondolkodás szabályait.
Őrizze meg mindenki a józanságát és óvja az elméjét a külső beavatkozások ellen. Mert az AI a közeljövőben elsősorban digitális marketingeszközként fog működni, és iszonyatos hatékonysággal jut be a bőrünk alá. Ezt pedig kiberbiztonsággal nem lehet megoldani, csak magunkra számíthatunk.
Hiszen – ezt Harari mondta – az AI legnagyobb veszélye, hogy azt gondoljuk, még mindig megvan a szabad akaratunk. Holott már régen nincs. És ezt vissza kell szereznünk.
Borítókép és fotók: Sebestyén László / Forbes
