Key takeaways
- Et økende antall programmer kan forstå talen din.
- Ny teknologi genererer tilpasset lydstøy i bakgrunnen mens du snakker for å forvirre programvaren som kan lytte.
-
Den nye teknikken oppnår ytelse i sanntid ved å varsle et angrep på fremtiden til signalet eller ordet.
Mange programmer kan forstå talen din under telefon- eller videosamtaler, og eksperter sier at de kan utgjøre en personverntrussel.
En ny teknologi utviklet av Columbia University-forskere, k alt Neural Voice Camouflage, kan være et forsvar. Den genererer tilpasset lydstøy i bakgrunnen mens du snakker, og forvirrer den kunstige intelligensen (AI) som lytter og transkriberer stemmer.
"Tilstedeværelsen av AI-transkripsjon reiser spørsmål om tillit," Michael Huth, medgründer av Xayn, en personvernbeskyttende søkemotor, og leder for avdelingen for databehandling ved Imperial College London, som ikke var involvert i forskningen, fort alte Lifewire i et e-postintervju. "Møtedeltakere kan være mer forsiktige med hvilke punkter de tar opp og hvordan talen deres blir transkribert. Dette kan være en god ting da det kan forbedre respektfull oppførsel, men det kan også være en dårlig ting siden samtalen kan være mindre åpen pga. forbehold om teknologien som brukes."
lytting og læring
Columbia-forskerne jobbet med å designe en algoritme som kunne bryte nevrale nettverk i sanntid. Den nye tilnærmingen bruker "prediktive angrep" - et signal som kan forstyrre ethvert ord som automatiske talegjenkjenningsmodeller er opplært til å transkribere. I tillegg, når angrepslyder spilles over luften, må de være høye nok til å forstyrre enhver falsk «lytting-i»-mikrofon som kan være langt unna.
"En sentral teknisk utfordring for å oppnå dette var å få det hele til å fungere raskt nok," sa Carl Vondrick, professor i informatikk ved Columbia og en av forfatterne av en studie som beskriver den nye tilnærmingen, i en nyhet utgivelse. "Vår algoritme, som klarer å blokkere en useriøs mikrofon fra å høre ordene dine riktig 80 % av tiden, er den raskeste og mest nøyaktige på testbedet vårt."
Den nye teknikken oppnår sanntidsytelse ved å varsle et angrep på fremtiden til signalet eller ordet. Teamet optimaliserte angrepet, så det har et volum som ligner på vanlig bakgrunnsstøy, slik at folk i et rom kan snakke naturlig og uten å bli overvåket av et automatisk talegjenkjenningssystem.
Møtedeltakere kan være mer forsiktige med hvilke punkter de tar opp og hvordan talen deres blir transkribert.
Forskerne sa at teknikken deres fungerer selv når du ikke vet noe om den falske mikrofonen, for eksempel plasseringen, eller til og med dataprogramvaren som kjører på den. Den kamuflerer en persons stemme over-the-air, skjuler den fra disse lyttesystemene, og uten å forstyrre samtalen mellom folk i rommet.
"Så langt fungerer metoden vår for det meste av det engelskspråklige vokabularet, og vi planlegger å bruke algoritmen på flere språk, i tillegg til at hviskingen til slutt høres helt umerkelig ut," Mia Chiquier, hovedforfatteren av studien og en doktorgradsstudent i Vondricks laboratorium, sa i pressemeldingen.
Hold samtalene dine private
Som om ikke alt dette var nok, kan annonser være rettet mot deg basert på lyd som er samlet inn fra smarttelefonen eller smarte hjemmeenheter også.
"Med enheter som [Amazon Echo] og deres motparter, er disse enhetene ikke bare alltid i hjemmet ditt, de lytter konstant til alt du sier eller gjør, men de har gjennom år med datainnsamling fra brukerne deres perfeksjonert naturlig språkbehandling (som gjør t alt ord om til tekst/brukbare data for enheter via en kombinasjon av mikrofoner, programvare og AI), sa Erik Haig, en advokatfullmektig ved Harbour Research, et strategikonsulent- og risikoutviklingsfirma, i en e-post.
AI-transkripsjoner av samtaletale er nå en standard del av standard kommersiell programvare, sa Huth. For eksempel har Microsoft Teams et rekordmøte alternativ med innebygde AI-transkripsjoner som kan sees av alle deltakere i sanntid. Den fullstendige transkripsjonen kan tjene som en referat av møtet. Vanligvis tillater slike utskrifter referattaking (også kjent som notattaking), der referatet vil bli godkjent på neste møte.
"Folk kan være bekymret for å bli spionert på når AI-transkripsjon er på," la Huth til."Dette virker veldig likt bekymringen om å ha en samtale tatt opp uten samtykke eller hemmelig."
Men ikke alle er enige i at smarte enheter er en trussel. De fleste trenger ikke å bekymre seg for programmer som lytter til samtalene dine, sa Brad Hong, en kundesuksessleder hos cybersikkerhetsfirmaet Horizon3, til Lifewire via e-post. Han sa at den viktigste bekymringen nå ikke er hvem som registrerer deg, men heller hvordan de lagrer dataene.
"Alle historiene man hører om at en mikrofon på datamaskinen eller mobile enhetene deres blir aktivert, Alexa eller Google Home lytter til, eller til og med overvåking fra myndighetene, det er sant at alle disse får lekmannens mage til å skurre," la Hong til. «Men alt i alt er folk sjelden i en situasjon som faktisk krever kamuflering av stemmene sine.»
