Key takeaways
- Programvareselskaper søker gjennom millioner av offentlig tilgjengelige nettbilder for å bygge ansiktsgjenkjenningssystemer.
- Et nytt nettsted hjelper deg å finne ut om Flickr-bildene dine ble brukt til AI-forskning.
- Bruken av nettbilder av store teknologiselskaper er en invasjon av personvernet, sier noen eksperter.
Programvareselskaper samler inn private bilder for å bygge ansiktsgjenkjenningssystemer, og et nytt nettsted kan hjelpe med å finne ut om bildene dine er blant dem.
Nettstedet, k alt exposing.ai, søker gjennom offentlige databaser for å finne ut om Flickr-bildene dine ble brukt til AI-forskning. Programvareutviklere bruker ofte offentlig tilgjengelige bilder for å trene opp gjenkjenningssystemene sine. Praksisen kan være lovlig, men noen eksperter mener at den ikke er etisk.
"Det faktum at disse bildene brukes uten folks viten er et betydelig brudd på personvernet," sa Thierry Tremblay, administrerende direktør og grunnlegger av databaseprogramvareselskapet Kohezion, i et e-postintervju. "Dette er en spesiell bekymring for minoriteter som kan bli profilert og målrettet. Dessuten samtykker ikke brukere nødvendigvis til å bli skannet hver gang de går ut offentlig."
Flickr kan avsløre mer enn du vet
Exposing.ai-nettstedet fungerer ved å se om bildene dine var inkludert i offentlig tilgjengelige datasett. Den ser etter Flickr-brukernavn og bilde-IDer. Alt du trenger å gjøre er å skrive inn ditt Flickr-brukernavn, bilde-URL eller hashtag i nettstedets søkefelt.
Nettstedet ble lansert forrige måned, og er basert på mange års forskning på offentlige bildedatasett, skrev Exposing.ai sine skapere på nettstedet. "Å fortelle den komplekse historien om hvordan gårsdagens fotografier ble dagens treningsdata er en del av målet med dette pågående prosjektet," sa de.
Nettstedet søker i millioner av poster, men "utallige flere treningsdatasett for ansiktsgjenkjenning eksisterer og blir kontinuerlig skrapet fra sosiale medier, nyhets- og underholdningssider," skrev de.
Bedrifter samler opp bilder for å drive programvareprosjektene sine. "Tekniske giganter som Google, Amazon, Facebook og Apple er alle dypt inne i å undersøke og utforske ansiktsgjenkjenningsteknologi," sa Nat Maple, markedssjef for nettsikkerhetsselskapet BullGuard, i et e-postintervju.
An Arms Race for Photos
Skraping av bilder er en del av et våpenkappløp blant selskaper for å utvikle bedre ansiktsgjenkjenning. For eksempel sugde selskapet Clearview AI til seg 3 milliarder bilder og tok dette et skritt videre ved å lage en AI-app, bemerket Maple.
Appen fungerer som en søkemotor og lar en bruker ta et bilde av noen, laste det opp og se en liste over offentlige bilder av vedkommende og lenker til hvor de kom fra.
Det faktum at disse bildene brukes uten folks viten er et betydelig brudd på personvernet.
"Interessant nok ser vi mest nøling for denne programvaren på myndighets-/rettshåndhevelsesnivå, på grunn av lovlighet og profileringsproblemer," sa Laura Hoffner, en kriseleder ved risikokonsulentfirmaet Concentric Advisors, i en e-postintervju.
"Men det betyr at den private industrien erstatter regjeringen når det gjelder erfaring og tilgang."
Brukere som ønsker å holde bildene de allerede har lagt ut på nettet private, har begrensede muligheter. "Det er ikke mye du kan gjøre annet enn å ta atomopsjonen, det vil si å ansette en advokat og saksøke selskapet det gjelder," sa Maple. "Men selvfølgelig, du må være dedikert og penger.«
Protect Your Face
Hvis du vil hindre at bildene du ennå ikke har lagt ut blir brukt til forskningsprosjekter, finnes det programvareverktøy som skjuler bilder ved å gjøre endringer på pikselnivå for å forvirre ansiktsgjenkjenningssystemer, sa Maple.
Forskere ved Chicago University har for eksempel utviklet programvare k alt Fawkes for å redusere nøyaktigheten til fotodatasettene som ansiktsgjenkjenningsverktøy samler inn fra nettet.
Men Microsoft gjorde nylig endringer i Azure-ansiktsgjenkjenningsplattformen "tilsynelatende designet for å undergrave effektiviteten til den nåværende versjonen av Fawkes," sa Maple.
Den beste måten å holde bildene dine private på er å sørge for at de ikke kommer i sirkulasjon på nettet, sa Sean O'Brien, hovedforsker ved ExpressVPN Digital Security Lab, i et e-postintervju. Han foreslo å låse dine sosiale mediekontoer ved å sette profilen din til privat, eller til og med slette sosiale medier helt.
"Vi har bare ett ansikt og må behandle det med mer forsiktighet enn et passord," sa O'Brien. «Det er avgjørende at forbrukere holder teknologiselskaper og myndigheter ansvarlige for å implementere teknologipolitikk som beskytter oss og løser ansiktsgjenkjenningens personvernrelaterte mangler.»
