A Trans-sofőröket kizárják Uber-fiókjukból

Lehet, hogy az Uber szívesen alkalmazza a legmodernebb technológiát a közúti dominanciára törekedve, de a közelmúltban egy transznemű sofőrrel és a telekocsi-alkalmazás arcfelismerő biztonsági funkciójával kapcsolatos incidens feltárja a számítógépes algoritmusokra támaszkodó sok buktató egyikét. Janey Webb, egy transz Uber-sofőr Iowában, a múlt hónapban azon kapta magát, hogy ki van zárva az alkalmazásból, mivel a funkció nem ismerte fel őt, ami miatt kimaradt a munkából és a bevételből. – írja a CNBC .



Az Uber arcfelismerő rendszere, Valós idejű azonosító ellenőrzés 2016 szeptemberében jelent meg, és megköveteli a járművezetőktől, hogy időszakos szelfiket küldjenek be személyazonosságuk igazolásához. A Microsoft Cognitive Services használatával a biztonsági funkció összehasonlítja a szelfit az Uber által nyilvántartott sofőrfotóval (amelyet a járművezető regisztrációja és az alkalmazással végzett első ellenőrzési folyamat során biztosítanak), és ideiglenesen felfüggeszti a sofőr fiókját, ha a képek nem egyeznek. .

Ez remek biztonsági funkciónak tűnik, kivéve, ha – mint Webb esetében – transz vagy, és átállás alatt áll. A CNBC jelentése szerint Webb 2017 októberében kezdett dolgozni az Ubernél, nagyjából ugyanabban az időben, amikor megkezdte az átállást. A megjelenésében bekövetkezett változások végül piros zászlót emeltek a Real-Time ID Check algoritmusában.



Webb elmondta a CNBC-nek, hogy lépéseket tett az alkalmazáson belüli átállás szorgalmas dokumentálása érdekében, hogy elkerülje a biztonsági funkcióval kapcsolatos problémákat, és hogy a potenciális utasokat naprakészen tartsa. De ez nem volt elég. Közvetlenül a köztudottan nagy forgalommal járó július negyedik hétvége előtt Webb fiókja lefagyott, és arra kérték, hogy két órát utazzon az Uber egyetlen személyes ügyfélszolgálati központjába Iowában, hogy megoldja a problémát. Állítólag azt mondták neki, hogy a probléma újra felmerülhet.



'Nem várható el egy transzszemélytől, hogy háromhavonta frissítse az engedélyét, csak azért, hogy elkerülje a deaktiválást' - mondta Webb a CNBC-nek. Az Uber még nem válaszolt rájuk.

Az Uberen túl azonban a Webb valós idejű azonosítási ellenőrzéssel kapcsolatos problémája az arcfelismerő technológia és általában a számítógépes algoritmusok jövőjével kapcsolatos növekvő aggodalmakat érinti, amelyek általában nem vették figyelembe a marginalizált közösségeket. A Google együttműködött a GLAAD-del segítsen az LMBTQ-t is magában foglaló mesterséges intelligencia felépítésében miután felfedezték, hogy az olyan ártalmatlan kifejezéseket, mint például a meleg vagyok, automatikusan negatívként regisztrálják, amikor a felhasználók közzétesznek olyan közösségi médiaplatformokat, mint a Twitter és a Facebook.

Tavaly vita robbant ki, amikor a transznemű YouTubersok felfedezték, hogy az arcfelismerő technológián dolgozó kutatók használták a videóikat adatokat szolgáltatni a mesterséges intelligencia számára, megtanítani az orvosi átalakuláson átmenő emberek arcának felismerésére. Ez a YouTube-felhasználók tudta és beleegyezése nélkül történt.



A marginalizált közösségekben sokan továbbra is gyanakodnak a mesterséges intelligenciára és általában az arcfelismerő technológiára. Tavaly szeptemberben a Stanford Egyetem jelentése, amely azt állította, hogy az arcfelismerő technológia képes azonosítani valakit LMBTQ+-ként, vitákat váltott ki, mind az állítólagos. hibás megállapítások a jelentésben, és arra az elképzelésre, hogy a technológiát fel lehetne használni az LMBTQ+ emberek kiszorítására.

Olyan akadémikusok, mint Sherry Turkle, a Massachusetts Institute of Technology professzora azt mondta egy interjú az NBC OUT-nak hogy a furcsa embereknek igazuk lenne, ha kétkedve fogadnának egy ilyen arcfelismerő technológiát. Az információ felhasználható arra, hogy a kormányok segítsék az LMBTQ+-személyek regisztrációját, és ez a lépés néhány ország már végrehajtják.

– Először is, kinek a tulajdonosa ez a technológia, és kinek van az eredménye? – mondta Turkle. „A probléma most az, hogy a „technológia” egy olyan hívószó, amely valójában „árut” jelent. Ez azt jelenti, hogy az ön technológiája meg tudja állapítani a szexualitásomat attól, hogy az arcomat nézi, és Ön megvásárolhatja és eladhatja ezt az információt társadalmi kontroll céljából.

A technológiával kapcsolatos etikai vita valószínűleg tovább fog hevülni, ahogy az olyan szolgáltatások, mint a valós idejű azonosító ellenőrzés, általánossá válnak. Webb számlájának felfüggesztése jelentős hatással volt a bevételére, és nem ő lesz az utolsó transz nő, akinek ilyen élménye volt. A mesterséges intelligencia gyors ütemben növekszik, miközben halmozott adatokat gyűjt, amelyeket csak egyre nehezebb lesz visszamenni és idővel megváltozni. De úgy tűnik, hogy a kudarc mindkét oldalán egyetértés van egy dologban: a marginalizált embereket érintő következményeknek elöl és középen kell lenniük.