A megfigyelőprogramok állítólag az LMBTQ+ diákokat célozzák meg

Egy új jelentés szerint az iskolákban használt digitális megfigyelőprogramok helytelenül jelölik meg az LMBTQ+ tartalmakat pornográfként. Az eredmények komoly aggályokat vetnek fel a hallgatók magánéletével és a felügyeleti szoftverek hatékonyságával kapcsolatban.

Az oktatási híroldal által végzett kutatás A 74 jelentős adatvédelmi aggályokat talált a Gaggle szoftverrel kapcsolatban, amelyet a Minneapolis Public Schools vezetett be a COVID-19 világjárvány kezdetén. A Gaggle lényegében mindent figyel a tanuló számítógépén: az e-mailek, chat-üzenetek és egyéb dokumentumok tartalmát, beleértve a naplóbejegyzéseket és az osztálytermi feladatokat. Ha a szoftver talál bizonyos kulcsszavakat vagy képeket, az iskola illetékeseit értesítik.

De mint sok automatizált rendszer esetében, a Gaggle tartalommoderálási irányelvei nem szándékosan negatív hatással vannak az LMBTQ+ emberekre.

Egy transz nyolcadikos, Teeth Logsdon-Wallace leírt egy állítólagos esetet, amikor olyan iskolai feladatot adott be, amely az öngyilkossági kísérletből való felépülését érintette, és azt, hogy egy folk punk dal hogyan segítette át rajta. De két nappal később egy iskolai tanácsadó felhívta Logsdon-Wallace anyját, hogy közölje vele, hogy Gaggle megjelölte gyermeke feladatát az öngyilkosság szó említése miatt, teljesen kontextus nélkül.

Megpróbáltam sebezhető lenni ezzel a tanárral, és azt mondani: „Hé, itt van egy dolog, ami fontos számomra, mert te kérdezted” – mondta Logsdon-Wallace. Most, amikor világossá tettem, hogy sokkal jobban vagyok, az iskola felveszi a kapcsolatot a tanácsadómmal, és kiakad.

Figyelembe véve, hogy a queer és a transz fiatalok azok szignifikánsan valószínűbb, mint egyenes társaik az öngyilkosság megtapasztalása érdekében az ilyen politikák aránytalanul nagy hatással lehetnek rájuk, miközben meg akarják őrizni őket. És a jelentés azt sugallja, hogy a fenti incidens nem elszigetelt eset: A 74 több mint három tucat eseményjelentést talált, amelyekben Gaggle megjelölte a szexualitással kapcsolatos kifejezéseket, mint például a meleg és a leszbikus.

Jeff Patterson, a Gaggle vezérigazgatója, annak ellenére, hogy aggódnak a hallgatók magánéletével kapcsolatban CBS News t úgy vélte, hogy a szoftver valójában több előnnyel jár a sérülékeny csoportok diákjai számára. Azt állította, hogy ezek a kifejezések szerepeltek a megjelölt szavak listáján, hogy megakadályozzák a zaklatást és a zaklatást.

A kritikusok szerint azonban a szoftver ellenkező hatást váltott ki. Az egyetemi újság szerint a minneapolisi South High School egyik diákját állítólag tudtukon kívül kiadták szüleiknek, amikor a diákot megjelölték a Gaggle-en keresztül.

Az iskola adminisztrációja egyáltalán nem beszélt [a diákkal], mielőtt felhívták a szüleiket – mondta el egy forrás A déli .

A szoftver aggodalmakat keltett a demokrata törvényhozók körében is, köztük Elizabeth Warren (D-Mass.), Ed Markey (D-Mass.) és Richard Blumenthal (D-Conn.) szenátorokban, akik leveleket írt a Gaggle cégvezetőinek szeptemberben. A szenátorok aggodalmukat fejezték ki az adatok nyomon követésével kapcsolatos túlzás és az átláthatóság hiánya miatt.

Ezeknek az eszközöknek a használata megbonthatja az iskolákon belüli bizalmat, megakadályozhatja a diákokat abban, hogy hozzáférjenek a kritikus egészségügyi információkhoz, és elriasztja a tanulókat attól, hogy felnőttekhez forduljanak segítségért, ami növelheti a tanulók károsodásának kockázatát – olvasható egy levélben.

A tanulók online tevékenységének felügyelete szintén elriaszthatja a színes bőrű és LMBTQ+ tanulókat attól, hogy felnőttekhez forduljanak segítségért, így a tanulók kritikus információk és támogatás nélkül maradnak.

cikk kép Egy meleg pap lemondott Grindr használat miatt. Kihagyta a mobiltelefon adatai A kritikusok szerint ez emlékeztet arra, hogy a digitális korban milyen könnyen visszaélhetnek a technológiai felhasználók magánéletével. Történet megtekintése

Ahelyett, hogy évi 60 000 dollárt fizetnének a szoftverért, a törvényhozók azt javasolják, hogy az iskolák fektessenek be a helyi humán támogató szolgáltatásokba, például tanácsadókba vagy más iskolai mentális egészségügyi szakemberekbe, akik kapcsolatokat és bizalmat alakíthatnak ki a tanulókkal jólétük megőrzése érdekében. és a mentális egészségügyi epizódok megelőzése.

Ez különösen szembetűnő javaslat, tekintve, hogy létezik kevés vagy semmi bizonyíték hogy a hallgatói megfigyelési programok valóban biztonságot teremtenek a tanulók számára vagy javítják a mentális egészségi állapotot.

Az algoritmusoknak régóta problémáik vannak az LMBTQ+ tartalmak nem megfelelő megjelölésével. Egy áprilisi jelentés a műszaki kiadványból Alaplap azt találta, hogy egy másik iskolai biztonsági szoftver, a Securly pornóként jelölte meg az LMBTQ+-szal kapcsolatos webhelyeket. A Securly algoritmusa által megcélzott webhelyek furcsa híroldalakat és LMBTQ+ egészséggel foglalkozó forrásoldalakat tartalmaztak.

És nem csak az oktatási szoftverekkel van a probléma: olyan technológiai óriások, mint a YouTube beperelték a furcsa alkotók demonetizálása és elnyomása miatt felnőtt tartalomhoz. Állítólag a TikTok árnyékban tiltott LMBTQ+ alkotók míg hagyja, hogy az erőszakosan homofób tartalmak elterjedjenek , bár a cég végül elnézést kért az előbbi hibáért. A Tumblr hírhedt pornó- és nőbemutató mellbimbó-tilalma 2018-ban véget ért. teljesen ártalmatlan anyagok megjelölése , beleértve a nem pornográf LMBTQ+ tartalmakat is.