Key takeaways
- Personverneksperter tar opp bekymringer over Facebooks bruk av offentlige Instagram-bilder for å trene kunstig intelligens.
- Programmet ble lært å gjenkjenne bilder ved å vise datamaskinen over 1 milliard offentlige bilder.
- Instagrams personvernregler inkluderer en del som forteller brukerne at informasjon kan brukes i forskning og utvikling.
Facebooks bruk av Instagram-bilder for å trene kunstig intelligens vekker bekymringer om personvern.
Den sosiale mediegiganten kunngjorde nylig at den hadde bygget programvare som kan lære av det den ser på. Programmet ble lært å gjenkjenne bilder ved å gjennomgå over 1 milliard offentlige bilder. Eksperter sier at brukere bør være klar over at Facebook bruker bildene deres.
"Det handler om å kjenne samtykke," sa James E. Lee, driftssjef for Identity Theft Resource Center, i et e-postintervju.
Instagrams personvernpolicy - som de fleste sannsynligvis ikke leser - sier veldig tydelig at selskapet forbeholder seg retten til å bruke bildene du legger ut til research. Brukere kan slå ansiktsgjenkjenning av/på i personverninnstillingene. «
Bedre enn resten
Facebooks program, med kallenavnet SEER for SELF-supERvised, slo andre kunstig intelligens (AI)-modeller i en objektgjenkjenningstest, hevdet selskapet. Programmet oppnådde en "klassifiseringsnøyaktighetsscore" på 84.2 % da det ble testet som sjekker om et AI-program kan identifisere hva som er på et bilde.
"SEERs ytelse viser at selvstyrt læring kan utmerke seg med datasynoppgaver i virkelige omgivelser," sa selskapet i et blogginnlegg.
"Dette er et gjennombrudd som til slutt rydder veien for mer fleksible, nøyaktige og tilpasningsdyktige datasynsmodeller i fremtiden."
Selv om Facebooks vilkår og betingelser kan tillate dem å utnytte brukerdata på en slik måte, er de fleste brukere ikke eksplisitt og aktivt klar over at dataene deres utvinnes for slike formål.
Hvis den lanseres kommersielt, vil SEER hjelpe med å identifisere objekter – ikke mennesker – uten å være programmert til å vite via en etikett hva som er på et bilde, sa Lee. "Det er en mer effektiv og raskere måte enn den nåværende metoden som krever enorme datasett for å matche et objekt med dets identitet," la han til.
"Det er alltid et potensial for misbruk, men det er også legitime potensielle fordeler med denne typen teknologi."
Facebooks program kan hjelpe selskapet med å bedre politiinnhold som bryter retningslinjene, for eksempel begrense uønsket eksponering for obskøne eller grafiske bilder, sa Aimee O’Driscoll, en sikkerhetsforsker ved personvernsiden Comparitech, i et e-postintervju. Den kan også brukes til å automatisk beskrive bilder, og forbedre brukeropplevelsen for personer med synshemming.
Du har allerede godtatt dette programmet
Instagrams personvernpolicy inkluderer en del som forteller brukerne at informasjon kan brukes i forskning og utvikling. «Selskapet bruker datamengden sin til en annen del av virksomheten sin, på samme måte som den bruker brukerdata til å mate sin reklamevirksomhet», sa O’Driscoll.
"Allikevel kan brukere fortsatt føle seg ukomfortable med at bildene deres blir brukt på denne måten."
Yashar Behzadi, administrerende direktør for Synthesis AI, et selskap som bruker kunstig intelligens for datasyn, sa Facebooks siste AI-fremskritt representerer en "betydelig forbedring" i datasynsevne.
"Brukere kan sannsynligvis forvente bedre bildemerking og innholdssøk, mens annonsører vil dra nytte av mer nøyaktig brukermålretting," la han til.
Men Facebooks tilnærming til å utnytte milliarder av Instagram-bilder vekker noen alvorlige bekymringer for personvern og regulering, sa Behzadi.
"Selv om Facebooks vilkår og betingelser kan tillate dem å utnytte brukerdata på en slik måte, er de fleste brukere ikke eksplisitt og aktivt klar over at dataene deres utvinnes for slike formål," sa han.
"Vi mener selskaper bør være mer rettferdige og transparente overfor brukerne, slik at de får full kontroll over dataene sine."
Mange andre selskaper har brukt kunstig intelligens for å identifisere et bildes innhold, påpekte Bobby Gill, administrerende direktør for apputvikleren Blue Label Labs, i et e-postintervju. "Men det faktum at dette nesten helt sikkert kommer til å bli brukt til markedsføring er det som er urovekkende," la han til.
Det nye programmet kan reise potensielle personvernproblemer, avhengig av hvordan Facebook planlegger å bruke systemet, sa Gill.
"Disse dataene vil sannsynligvis være tilgjengelige for tekniske markedsførere som vil bruke dem til å identifisere visse trender basert på ulike elementer identifisert i et bilde," sa han.
"Å kunne hente informasjon fra bilder som folk legger ut gir for eksempel en annen dimensjon for assosiative systemer som vanligvis bruker atferd for å profilere og målrette mot individer. Det kan komme til å lære at alle med for eksempel frosker i 3- 7 % av bildene deres vil sannsynligvis kjøpe hjemmetreningsutstyr."
