Nemrég rendezték meg a világ legnagyobb hr tech és digitalizációs konferenciáját, az Unleash-t, most épp Londonban. Az egyik fő előadó Cassie Kozyrkov volt, aki a Google-nél vezető kutatóként mesterséges intelligencia kutatásokkal foglalkozik. Az emberi agy és az AI (artificial intelligence – mesterséges intelligencia) viszonyáról, a gépi tanulás emberi viselkedésre gyakorolt hatásairól kérdeztem, emailben válaszolt a kérdéseimre.
Az elmúlt 200 év ipari forradalma egyre professzionálisabb eszközöket adott az emberiség kezébe. Ezzel az ember élt és visszaélt. Ma már a fejlődés exponenciális mértéke egyre nagyobb tömegek életére van hatással. Vagyis, ha az AI-t is elkezdjük rossz dolgokra , az beláthatatlan következményekkel járhat. Lehet azt mondani, hogy minél fejlettebb intelligenciát hozunk létre, annál erőteljesebb lesz az emberi szempontok tudatos fókuszban tartása?
Azt mondanám, hogy ez a pont minden technológia esetében igaz. Az AI az automatizálás hasznos eszköze, és fontos kérdés, hogy az ember hogyan használja ezeket az eszközöket.
Amivel óvatosnak kell lennünk, pont az, hogy hatalmas tömegek életét érintheti. Minél nagyobb a technológia skálája vagy arzenálja, ami befolyásolhatja az életünket, annál több felelősséget vállaló ember értékrendje kell, hogy ehhez kapcsolódjon, akik megkérdőjelezik, hogy az eszközöket bölcsen irányítják-e. Ezek közül nem minden technológia alkalmaz mesterséges intelligenciát, de azokat, amik biztosan igen, messzemenően óvatosan és meggondoltan kell kezelni.
Cassie Kozyrkov, a Google Chief Decision Scientisje – fotó: Google
Az AI működési folyamatát nem lehet emberi aggyal felfogni és megérteni, még az emberi agy működési mechanizmusát sem térképeztük fel teljesen. Mégis, az embernek kell pontosan meghatároznia az inputokat (bemeneti adatokat) és ellenőriznie az eredményeket ahhoz, hogy megbízhatóvá váljon az AI használata. Meddig lehet az emberben megbízni, hogy jól értelmezi és alkalmazza az AI-t?
Bár itt árnyalatokról beszélünk, mégsem lenne helyes teljesen azt mondani, hogy az emberi agy nem képes felfogni a mesterséges intelligencia működését. Azok a kutatók, akik gépi tanulással foglalkoznak – mint én magam is – képesek az algoritmusok működését matematikai egyenletekkel leírni, adatokat modellekké alakítani. Ebben az értelemben az AI felfogható. Amikor az AI nagyon egyszerű feladatokat automatizál, könnyű megérteni a modellt, sőt, gyakran egészen pontosan látható mit is csinál.
Nézzünk egy egyszerű idegpálya-modellt. A feladat elválasztani a piros pontokat a türkiz kékektől. Az idegpályák kapcsolódási mesterséges intelligenciával értelmezett modellje nagyon hasonlít ahhoz, ahogy az ember cselekedne. Néhány adatot előre szimuláltam, ezek alapján a feladat az, hogy automatizáljam a jövőbeni adatokat: vagyis hogy mikor érkezik piros és mikor kék input. Az AI-t (egy mély neurális hálózatot) használtam a feladat megoldására, és mint látható, a jobb oldali modell nem igazán rejtélyes. Ha egy bemenet érkezik (0,5 és 1 között), a modell azt mondja, hogy kékre kell besorolni. Ha a 2-es, vagy 3 -as érkezik, a modell azt mondja, hogy a piroshoz kell besorolni. Mindez tökéletesen érthető az agyunknak is.
Igaz, a fenti feladat elég egyszerű ahhoz, hogy akár kézzel is automatizálhassuk, az AI segítsége nélkül. Más alkalmazások sokkal izgalmasabbak lehetnek: például, ahol a feladat megoldása annyira bonyolult, hogy az utasításkészlet megértése túlságosan zavaros és idegen lenne az emberi agynak. Jó példa erre a képek válogatása aszerint, hogy melyiken van macska és melyiken nincs.
Meg lehet csinálni kézzel, emberi aggyal, de az utasítások memorizálása olyan sokáig tartana, és annyira bevonna bennünket, hogy megunnánk a használati útmutatót olvasgatni, és nem is emlékeznénk mindenre. Ugyanúgy, ahogy gyorsan megunnánk milliónyi adóbevallás olvasgatását is, miközben félúton feltehetően elfelejtenénk, mi is volt leírva az elsőben.
Ebben az értelemben ez az embernek olvashatatlan, zűrzavaros és felfoghatatlan. Pedig egyenként minden egyes összetevőjét könnyű megérteni.
Működésében ugyanilyen az AI is. Fejben is könnyen össze tudjuk szorozni 24×10-et, de 29192891233423×3012312353 gyors megoldásához már segítség kell, és ez az a fajta bonyolultság, ahol a gép megoldására van szükségünk, ami mintázatokat ad. Amit érdemes megkérdezni ezen a ponton, az nem az, hogy mennyire kell bíznunk az emberekben, ahogy a maga teljességében értelmezik az AI modelleket, hanem az, hogy az emberiség szeretné-e átvenni a technológiai megoldásokat azon egyszerű folyamatokban is, amire mi magunk is képesek vagyunk anélkül, hogy félúton elfelejtenénk miről is beszélünk.
Szerencsére a modellek bonyolultsága nem akadályoz meg bennünket abban, hogy az AI eredményeit bölcsen alkalmazzuk, ugyanis lehetséges az AI rendszereket biztonságosan és hatékonyan tesztelni, anélkül, hogy elolvasnánk a működésük leírását.
Gondoljunk csak a gyógyszerek tesztelésére: van a piacon néhány gyógyszer, aminek a hatásmechanizmusát (azt, ahogy a testünkkel reakcióba lépnek) kevésbé értjük, mégis képesek vagyunk a hatását ellenőrizni és meghatározni, hogy hogyan működjenek. A jól tesztelt, de nem annyira értett gyógyszerek listája néhány nagyon gyakran előfordulót is tartalmaz, legjobb tudomásom szerint a paracetamol is ilyen.
A mechanizmusokra való összpontosítás helyett itt is a tesztekre, a gyógyszer hatásaira figyelnek. Ugyanez a helyzet az AI-nál is: sokkal könnyebb ellenőrizni, hogy egy fenti példánkban szereplő macskaosztályozó milyen gyakran hibázik, mint emberként azon gondolkodni, hogy hogyan kezeljük az egyes pixeleket a macska fogalmának kialakításához.
Fotó: Szirtes Hajnalka
Elválik-e egymástól valaha teljesen az emberi agy és az AI működése? Ha igen, hol és hogyan?
Az emberi agy az AI korai kutatóit inspirálta, de a hasonlóság itt véget is ért. A tipikus ideghálózatok leírása pár ezer matematikai függvény gyűjteménye, míg az agy 100 milliárd biológiai sejt gyűjteménye, összetett elektrokémiai folyamatokkal. A neurológiai PhD tanulmányaim során, ami leginkább felnyitotta a szemem, az volt, hogy valójában milyen nagyon keveset tudunk az emberi agyról. Nehéz összehasonlítani olyan dolgot egymással, amit az emberek még maguk sem értenek egy olyan dologgal, amit maga az ember alkotott matematikai egyenletekkel.
Mit jelent az ön-tudatosság az embernél és mit a mesterséges intelligenciáknál?
A tudatosság témája, a HLI (human-like intelligence – emberszerű intelligencia) a számítógép tudomány része, és ez a terület megegyezik az idegtudomány tudatosságkérdésével. Annak, ahogyan mi ma az AI-t használjuk, kevés köze van a HLI-hez, de annál több szerepe van abban, hogy hogyan használjuk az adatok automatizálására.
Neurológiai és adatkutatóként nem dolgoztam behatóbban a tudatosság témájával, és nem is találkoztam olyannal, aki elsődlegesen ezzel foglalkozott volna. A tudatosság definíciója trükkös, és nagyon nehéz azt az emberi agy esetében tanulmányozni. A gépekről nem is beszélve.
Látom a tudatosság költői vonzerejét, de nagyon messze van a modern AI gyakorlati területétől.
Milyen képességek maradnak csak az ember privilégiumában? Vagy lehet azt mondani, hogy minden megfelelő mennyiségű és minőségű adatbevitel és idő kérdése csak az AI szemszögéből?
Ez a kérdés arra utal, hogy mit jelent embernek lenni, és amennyire tudom, a filozófusok még mindig keményen dolgoznak ebben a témában. Amíg ebben nincs konszenzus, vegyük a tautológiai (a tautológia olyan állítás, amely a saját értelménél fogva igaz) útvonalat: az emberi biológiai mechanizmus nélkül a gépek hálózatokat hoznak létre hús és vér nélkül, ezek pontosan leutánozzák a viselkedésünket anélkül, hogy ugyanazt tapasztalnák, mint amit mi. Ebben az esetben az utánzás valódi? Ha nemmel válaszolunk, akkor minden biológiai kapacitásnak van felső határa a nem biológiai gépekkel szemben. Ezek közé tartozik a vágy és a gondolkodás képessége.
Gyakran emlékeztetem a diákjaimat arra, hogy a gépek nem gondolkodnak, és nem akarnak semmit (csak optimalizálják azokat a funkciókat, amiket mi programozunk beléjük). Te vagy az, aki akar, és nem a gép. Nem számít mennyire önállók, vagy milyen széles skálán működnek ezek a gépek, csupán a készítőik visszhangjai.
Az, ahogyan eldöntjük, hogy milyen eszköznek kell léteznie, milyen feladatokat érdemes automatizálni, és milyen problémákat érdemes megoldani, első körben az csakis a mi, emberi felelősségünk. Én arra bátorítom az embereket, hogy fejlesszék a döntéshozatali képességeiket annak érdekében, hogy fel tudjanak nőni a feladathoz.
Ezen a ponton nekem újra visszaköszön, amit Matthieu Ricard francia buddhista szerzetes a tavalyi Unleash és a davosi konferencián mondott: a bizalom, az emberiesség és egymás segítése lehetnek a leggyakorlatiasabb válaszok a jelenlegi világban zajló változásokra. Ezek szerint saját magunktól félhetünk a legjobban…
Szirtes Hajnalka (GuessYourself) szervezet pszichológus, executive transition coach, tanácsadóként 14 éve támogat vezetőket hatékonyságfejlesztésben.
A vendégszerzők külsős szakértők, nem a Forbes szerkesztőségének tagjai, véleményük nem feltétlen tükrözi a Forbesét.
