Key takeaways
- Bedrifter bruker kunstig intelligens for å overvåke sine ansatte.
- Amazon installerte maskinlæringsdrevne kameraer i varebilene sine tidligere i år.
- AI-overvåking kan føre til personvern- og sikkerhetsproblemer hvis den brukes av skruppelløse selskaper.
Arbeidsgivere sporer i økende grad arbeiderne sine ved hjelp av kunstig intelligens, og observatører sier at praksisen vekker bekymringer om personvern.
Amazon installerte maskinlæringsdrevne kameraer i varebilene sine tidligere i år. Selskapet fort alte nylig sjåførene at de må gå med på å bruke dem. Praksisen med overvåking på jobb kan være lovlig, men ikke alle er enige om at det er etisk.
"Bedrifter har brukt overvåkingsverktøy for ansatte i flere tiår, men med avansert teknologi blir de mer invasive," sa Aimee O'Driscoll, en sikkerhetsforsker ved teknologisammenligningsnettstedet Comparitech, i et e-postintervju.
"Det meste av overvåking av ansatte kan betraktes som en krenkelse av personvernet, og det kan hevdes at det Amazon gjør ikke er mye forskjellig fra å ha CCTV-kameraer på et kontor."
Bli sett eller få sparken
Amazons rundt 75 000 leveringssjåfører i USA må nå signere et "biometrisk samtykke"-skjema. Tillatelsesskjemaet lar AI-drevne kameraer se sjåførenes plassering, bevegelser og biometriske data. Ansatte som ikke signerer dokumentet kan bli sparket.
AI-overvåking sporer alt Amazon-sjåførene gjør, og invaderer forsøkspersonens antatte personvern, sa Chris Hauk, en personvernforsker ved personvernnettstedet Pixel Privacy, i et e-postintervju.
"Dette inkluderer opptak hver gang motivet gjesper eller skraper et sensitivt område," la han til. «En sjåfør har i det minste en viss rett til et skinn av privatliv mens han er inne i kjøretøyene sine.»
Ansattes overvåking av AI er et økende problem. Walmart har patentert en AI-teknologi som gjør det mulig å lytte til ansattes interaksjoner med kunder i kassen, påpekte O’Driscoll.
Programvareutvikler Enaible tilbyr produktivitetsverktøy basert på AI-programvare. Ulike selskaper, inkludert Macy's, bruker Microsofts analysesystem, som kan overvåke ansattes atferd. Domino’s har brukt AI-teknologi for å sjekke at pizzaene er laget riktig.
"Et av hovedproblemene er at når det brukes på feil måte, kan mangel på personvern føre til sikkerhetsproblemer," sa O’Driscoll.
"Overvåkingsdata kan havne i hendene på kriminelle, eller dårlige aktører selv kan bruke AI-overvåking for å målrette mot ofre."
Biometriske ansiktsskanninger resulterer i en matematisk representasjon av den registrertes ansikt som kan brukes til å identifisere og spore dem hvor som helst, for resten av livet, sa Ray Walsh, en personvernekspert ved nettstedet ProPrivacy, i en e-postintervju.
"Dette øker alvorlige personvern- og sikkerhetsrisikoer for Amazon-sjåfører hvis data kan bli krenket, lekket eller potensielt til og med utnyttet av statlige snoops ved å bruke en arrestordre," la han til.
Fordi AI-teknologi er relativt ny, er det ingen konkrete retningslinjer for bruken av den når det gjelder personvern, sa O’Driscoll. "Når det er sagt, vil sikkerhet sannsynligvis alltid være en legitim unnskyldning for personverninvasjon, så Amazon er dekket av sine nåværende intensjoner," la hun til.
Mens ansatte har rett til å slutte eller samtykke til den foreslåtte AI-overvåkingen, gjør de det i møte med en enorm maktubalanse, O’Driscoll sa at AI-overvåking burde reguleres. "Bedrifter bør ideelt sett ha legitime grunner (som sikkerhet) for AI-overvåking," la hun til.
Noen stater har vedtatt lovforslag som begrenser og regulerer bruken av overvåking på arbeidsplassen, men føderal lovgivning mangler, påpekte Walsh.
I 2019 ble loven om algoritmisk ansvarlighet introdusert i huset og senatet, men den ble til slutt avvist. En lignende lov kan bli innført i år, og "det er håp om at en demokrat-ledet kongress og Det hvite hus kan forbedre sjansene for å bestå," sa Walsh.
Ikke forvent personvern på jobben
Ikke alle tror at Amazons overvåking av sjåførene deres er en krenkelse av personvernet.
"Jeg tror det er vanskelig å argumentere for at en ansatt har en rimelig forventning om personvern i et firmaeid kjøretøy," sa Will Griffin, sjef for etikk for AI-selskapet Hypergiant, i et e-postintervju.
"Den større bekymringen er at alle disse sjåførene i løpet av noen få år vil bli erstattet av autonome kjøretøy. Så enhver debatt om sjåførpolitikk vil bli et omstridt punkt ettersom flåten blir fullstendig autonom."
Amazon-saken fremhever behovet for en fagforening eller målrettet føderal intervensjon som en måte å gjenopprette maktbalansen mellom Amazons arbeidere og selskapet, sa Griffin.
"Mens ansatte har rett til å slutte eller samtykke til den foreslåtte AI-overvåkingen, gjør de det i møte med en enorm maktubalanse," la han til.
