Key takeaways
- Tencent har laget en ansiktsgjenkjenningsteknologi for å fange barn som spiller videospill forbi et portforbud fra staten.
- Foreldrekontroll uten foreldre som passer på barnas skuldre er ikke noe nytt.
- Eksperter sier at problemer med håndhevede regler for ansiktsgjenkjenning inkluderer personvern og nøyaktighet.
Det kinesiske spillselskapet Tencent bruker ansiktsgjenkjenningsteknologi for å håndheve et portforbud for spill for mindreårige, og eksperter sier at en verden av tekniske håndhevede regler ikke er langt unna.
Ansiktsgjenkjenningsprogramvare er ikke ny teknologi, men etter hvert som den blir mer avansert, har den mer kontroversielle bruksområder enn bare å låse opp smarttelefonene våre. Dr. Vir Phoha, professor ved College of Engineering and Computer Science ved Syracuse University, sa at det er mange bekymringer når man bruker ansiktsgjenkjenning for å håndheve regler, men at man spesifikt skiller seg ut fra resten.
"Min største bekymring er at… privat industri blir et statlig instrument for å håndheve lover," sa Phoha til Lifewire over telefon. "Og det er viktig fordi det kanskje ikke er nok kontroller og balanser innen … privat industri til å sikre at det er åpenhet i hvordan ting gjøres internt."
Foreldrekontroll uten foreldrene
Tencent sa at den bruker ansiktsgjenkjenningsteknologi for å fange barn som spiller videospill sent på nattetimer. Kina vedtok et lovforslag i 2019 som håndhever et spilleforbud for alle under 18 år, og begrenser tidsbruken til å spille et spill til ukedager og helgetimer. Så selv om teknologien virker invasiv, ble den laget for å løse problemet med barn som går imot portforbudet.
Ifølge Digital Trends skanner teknologien, kjent som «Midnight Patrol», en persons ansikt fra dataskjermen for å matche det med et registrert navn og ansikt og holder styr på spilletid deretter.
Selv om noen foreldre ville ønske et nytt øye til barna sine som adlyder reglene, kan teknologi virkelig erstatte en forelder?
“Jeg tror det er en konflikt mellom foreldres rettigheter og foreldreplikter. Og med statlig mandat er foreldre vanligvis de beste dommerne,» sa Phoha.
Selv om denne spesifikke teknologien er i Kina, godkjente Federal Trade Commission en verifiserbar metode for samtykke fra foreldre i 2015 som lar enheter bruke teknologi for ansiktsgjenkjenning for å innhente samtykke fra foreldre. Denne teknologien er litt annerledes ved at den er rettet mot å skanne foreldres ansikter før barna får tilgang til bestemt innhold for å sikre at en forelder samtykker til det. Phoha sa imidlertid at det å ha et kamera i hjemmet som overvåker ting, åpner for potensielle problemer.
“Hvis et kamera er tillatt i hjemmet, som en tredjepart som gir tilgang til hjemmet mitt, når barnet mitt leker, tror jeg det er et stort, stort problem,” sa han.
Problemer med ansiktsgjenkjennings-håndhevede regler
Bortsett fra de etiske spørsmålene om statlige regler eller overtakelse av foreldrerollen, sa Phoha at med ansiktsgjenkjenning er det alltid problemer med nøyaktighet.
«[Ansiktsgjenkjenning] kan forfalskes veldig enkelt, spesielt hvis det er foran en datamaskin og gjøres eksternt slik Tencent er,» sa han.
Hvis det er statlig pålagt, og hvis det er tvangsmessig eller resulterer i straffetiltak, så er jeg ikke veldig komfortabel med det.»
Hvis ansiktsgjenkjenning ble en mer allment akseptert måte å håndheve regler på, kan det påvirke fargede mennesker betydelig på grunn av teknologiens iboende rasemessige skjevhet. Tallrike studier har vist at ansiktsgjenkjenning kan feilidentifisere personer, spesielt fargede.
Ved bruk av applikasjonsbilder av høyere kvalitet, er falske positive rater høyest i vest- og østafrikanske og østasiatiske mennesker, og lavest hos østeuropeiske individer. Denne effekten er generelt stor, med en faktor på 100 flere falske positiver mellom land,» lyder en del av en studie fra 2019 av NIST i ansiktsgjenkjenningsdemografi.
Phoha la til at i vitenskapelig forskning er ansiktsgjenkjenning i stand til å bestemme langt mer enn bare ansiktstrekk, inkludert å oppdage noens hjertefrekvens og identifisere om en person har en bestemt sykdom.
Ansiktsgjenkjenningsteknologi kan også oppdage følelsene dine. For eksempel kan Amazons programvare for ansiktsgjenkjenning, kjent som Rekignition, oppdage følelser i ansiktene til folk, inkludert frykt.
Phoha sa at vi nærmer oss en verden av ansiktsgjenkjennings-/overvåkingshåndhevede regler med denne typen teknologi. Han la til at vi bør være spesielt på vakt mot et statlig pålagt regelsystem for ansiktsgjenkjenning.
"Når jeg vil logge på en telefon og bruke ansiktsautentisering, kan jeg gjøre det etter eget skjønn - det er mitt valg, og jeg kan bruke det slik jeg vil," sa han. "Men hvis det er statlig mandat, og hvis det er tvangsmessig eller resulterer i straffetiltak, så er jeg ikke veldig komfortabel med det."
