Miután jogvédő szervezetek és a dolgozók körében nemtetszést váltott ki, hogy az Amazon még most is promotálja arcfelismerő szoftverét, a Rekognitiont a hatóságoknak, és félő, hogy azt George Floyd halála miatt tüntetők ellen is bevethetik, a cég úgy döntött, hogy egy évig nem engedélyezi a szoftver hatósági használatát Amerikában.
Az Amazon Web Services állami szerveknek adta el a Rekognitiont arcfelismerő alkalmazását, csakhogy számos tanulmány szerint az igencsak hajlamos a feketék és más sötétebb bőrűek kárára tévedni, írja a Business Insider. Múlt héten viszont a cég közleményt adott ki arról, hogy elítéli a rendőrségi brutalitást és a rendszerszintű rasszizmust, ami George Floyd halála kapcsán a tüntetésekben felszínre tört.
Több ügyvéd felkapta a fejét a szerintük ellentmondásos viselkedésre: az AWS ugyanis még mindig együttműködik a rendőrségi szervekkel, pedig az MIT Media Lab 2019-es felmérése szerint a Rekognition nehezen ismeri fel a sötétebb bőrűeknél az illető nemét, illetve hibásan működik nők esetében.
Az Amerikai Polgárjogi Unió (ACLU) 2018-ban tesztelte a Rekognitiont, amely a Kongresszus 28 tagjában bűnözőket vélt felismerni. Ráadásul a szervezet kimutatta, hogy a rendszer faji szempontból elfogult: a 28 hibás párosításból ugyanis 11 esetben nem fehér bőrű képviselőben ismert fel bűnözőt.
Ez pedig erősen megkérdőjelezi az arcfelismerő technológia rendőrségi használatának létjogosultságát.
Az Amazon továbbra sem tett le arról, hogy a szoftvert olyan szervezeteknek átadja használatra, mint a Thorn, az Eltűnt és Bántalmazott Gyerekek Nemzetközi Szervezete, a Marinus Analytics, hiszen ezek a szervezetek szerinte embereket menthetnek meg az arcfelismerő technológiával. Azt viszont nem volt hajlandó kommentálni a cég a Business Insidernek, hogy milyen módon működik együtt a kormánnyal.
„Reméljük, hogy ez az egyéves moratórium elég időt ad arra a Kongresszusnak, hogy megfelelő szabályokat hozzon, mi pedig készen állunk arra, hogy segítsünk, ha kérnek bennünket” – olvasható egy friss Amazon-posztban.
Az Amazon azt követően döntött a szoftver árusításának leállításáról, hogy az IBM is ezt határozta el, sőt „nemzeti párbeszédre” szólította fel az érintetteket arról, hogyan lehetne a technológiai vívmányokat a jog megerősítésére használni.
Különféle jogvédők, mint például az ACLU vagy a Mediajustice már korábban is felszólították az Amazont, hogy ne értékesítse a Rekognitiont rendvédelmi szervezeteknek, ám a cég pillanatnyilag éppen azon dolgozik együtt országszerte több mint 600 rendőrségi részleggel, hogy az emberek Ring márkájú kapucsengőjének kamerafelvételeit megszerezhessék a hatóságok, ha bűneset történik a környéken. (A Ring az Amazon leányvállalata.) Az a terv, hogy az arcfelismerő szoftver segítségével kiszűrjék a gyanús egyéneket, mert az eszköz szoftvere összekapcsolná a kamerában látott személyt egy adatbázissal, ami a gyanús személyek fotóit tárolná.
Kedden a rendőrök földre tepertek és letartóztattak egy Amazon-sofőrt, aki a hatóságok szerint tiltott helyen parkolt a michigani Warrenben, a szóban forgó rendőrségi részleg pedig a Ringet használta.
Korábban az AWS vezére, Andy Jassy visszautasította az Amazon-dolgozók azon vádját, hogy a Rekognitiont erőszakszervezeteknek árusítják. Azt mondta: a cég olyan feltételekhez köti a szoftver felhasználását, hogy biztosan nem lehet azt rossz célokra használni. Aztán egy közelmúltbeli interjúban már azt nyilatkozta: az Amazon nem tudott arról, hogyan és mire alkalmazza a Rekognitiont a rendőrség, sőt azt is letagadta, hogy ismerné a hatósági felhasználók számát.
Borítókép: Bryan Angelo // Unsplash
