Key takeaways
- AI-systemer som overvåker leveringsbiler straffer Amazon-sjåfører urettferdig, hevder en ny rapport.
- Amazon-systemet er en del av en økende trend med selskaper som bruker teknologi for å overvåke arbeidsgiverne sine eksternt.
-
Noen AI-programvare lar arbeidsgivere kontinuerlig overvåke ansattes atferd i bakgrunnen og tegne mønstre i arbeidsflyten deres.
Arbeidsgivere bruker i økende grad programvare for å overvåke ansatte eksternt, noe som vekker bekymring blant noen personvernforkjempere.
En ny rapport hevder AI-drevne kameraer i Amazons varebiler har urettferdig straffet sjåfører. Artikkelen fant at sjåfører led av feilvarsler, feil sjåførkort, upraktiske antakelser om trafikkforhold og sjåfører som tok i bruk praksis for å omgå teknologien.
"Mens AI forbedres, vil feil fortsatt bli gjort," sa Raymond Ku, direktør for Center for Cyberspace Law & Policy ved Case Western Reserve University, til Lifewire i et e-postintervju. "Som en rettferdighetssak tror jeg at vi alle mener at noen som blir straffet på noen måte av AI-beslutninger bør gjøres oppmerksomme på dette og gis en mulighet til å utfordre avgjørelsen."
Amazon's AI-kameraer
Amazon har sagt at de installerte AI-drevne kameraer i sine leveringskjøretøyer som et sikkerhetstiltak. Kameraene er ment å overvåke når leveringssjåfører utfører farlige manøvrer som å kjøre stoppskilt eller gjøre ulovlige U-svinger.
Når kameraene oppdager mulige "hendelser" som kan være usikre under kjøring, tar disse tilfellene hensyn til arbeidernes prestasjonsscore. Lavere poengsum reduserer sjansen for at sjåfører får bonuser, ekstra lønn og premier.
Men Amazon-sjåfører fort alte Motherboard at de blir straffet for noen kjørevaner som anses som trygge eller utenfor deres kontroll. Amazon svarte ikke på en forespørsel fra Lifewire om kommentar.
Ku påpekte at siden sjåførene gikk med på å bli registrert, lider de ikke av en krenkelse av personvernet under loven.
"Det betyr imidlertid ikke at den gjennomsnittlige arbeideren ville være fornøyd med overvåkingen eller ikke ville protestere hvis de kunne," la han til. "Dette gjelder spesielt når overvåkingen begynner å gripe inn i mer tradisjonelle personlige rom."
Rapporten reiser bredere spørsmål om hvorvidt dataene kan nås og brukes i søksmål eller av politi og føderale tjenestemenn, sa personvernadvokat Bethany A. Corbin til Lifewire i et e-postintervju. Det kan også påvirke ansvar, påpekte hun.
"Hvis for eksempel AI-teknologien forteller den ansatte at han ikke skal se seg i sidespeilene og den ansatte har en ulykke som et direkte resultat av det rådet, hvem er skylden?" Corbin la til.
Growing Surveillance
Overvåkingen stopper ikke med Amazon. Et økende antall bedrifter bruker teknologi for å se sine ansatte eksternt, sa personvernekspert Chris Hauk til Lifewire i et e-postintervju.
For eksempel bruker AI-markedsføringsfirmaet Blackbelt et Allocate time-sporingssystem, som lar selskapet overvåke og spore sine ansattes datamaskinaktivitet autonomt. Microsofts Workplace Analytics vil gjøre det mulig for arbeidsgivere å se hvor lenge en ansatt er på nettsteder, skrive e-poster og mer i løpet av en arbeidsdag.
Walmart jobber også med et system som lytter etter lyden av raslingen av poser eller pip fra kasseskannere for å spore ansattes beregninger og sikre at ansatte utfører oppgavene sine riktig og effektivt. Sensorene kan til og med lytte til kunder mens de chatter mens de står i kø og oppdager om ansatte hilser kundene riktig eller ikke.
Arbeidsovervåking har blitt mer utbredt siden utbruddet av pandemien, sa personvernekspert Pankaj Srivastava til Lifewire i et e-postintervju.
"Det meste av denne teknologien er posisjonert som 'forbedring av produktiviteten', men måten noen av disse verktøyene fungerer på antyder en større toleranse for arbeidsgivere til å overvåke hver aktivitet i arbeidsstyrken deres," la han til. "For eksempel overvåke hvor mye tid ansatte bruker på hver oppgave, ta et eksternt bilde for å sikre at ansatte er ved skrivebordet deres, og til og med overvåke nettsteder som besøkes og registrere en ansatts tastaturtrykk og musebevegelser."
Mens AI forbedres, vil det fortsatt gjøres feil.
Noen AI-programvare lar arbeidsgivere kontinuerlig overvåke ansattes atferd i bakgrunnen og tegne mønstre i arbeidsflyten deres, sa han.
"En ansatt kan avskjediges basert på deres personlige resultatrapport som siterer at de tok noen minutter lenger tid å fullføre en oppgave enn vanlig," sa Srivastava.
"Farvel, badet går i stykker."
