Key takeaways
- Et økende antall selskaper bruker kunstig intelligens for å lese følelsene dine.
- Følelseslesende AI kan potensielt gjøre teknologien enklere å bruke.
- Noen eksperter bekymrer seg for personvernkonsekvensene av at selskaper samler inn følelsesmessige data.
Kunstig intelligens (AI) kan snart vite mer om deg enn du tror.
En oppstart k alt Hume AI hevder å bruke algoritmer for å måle følelser fra ansikts-, vokal- og verbale uttrykk. Det er et av et økende antall selskaper som utgir seg for å lese menneskelige følelser ved hjelp av datamaskiner. Men noen eksperter sier at konseptet reiser personvernspørsmål.
"Den som kontrollerer disse systemene og plattformene kommer til å ha mye informasjon om enkeltpersoner," sa Bob Bilbruck, en teknisk oppstartsrådgiver, til Lifewire i et e-postintervju. "De vil være i stand til å bygge profiler for disse menneskene som kan brukes til pengegevinst, kontroll over utfall eller potensielt mer ondsinnet makrosporing av mennesker og samfunn."
Ansiktslesing?
Hume sier at hemmeligheten bak å lære AI å lese følelser er big data. Selskapet sier at det trener AI på massive datasett fra Nord-Amerika, Afrika, Asia og Sør-Amerika.
"Vår visjon er en verden der AI oversetter vitenskapelig innsikt til nye måter å forbedre den menneskelige følelsesmessige opplevelsen på," skriver selskapet på sin nettside. «Emosjonell bevissthet er den manglende ingrediensen som trengs for å bygge sosiale medier-algoritmer som optimaliserer for brukernes velvære…»
Hume er et av mange selskaper som prøver å utnytte data for å få innsikt i menneskelige følelser. Selskaper bruker emosjonell overvåking for å prøve å designe effektive annonser, sa Oleksii Shaldenko, en professor som forsker på AI ved Igor Sikorsky Kyiv Polytechnic Institute i Ukraina, til Lifewire i et e-postintervju. Lignende teknologi brukes til å evaluere tonefallet på kundesentre, overvåke sjåføratferd i biler og måle seernes holdning hos strømme- og produksjonsselskaper.
Det er betydelige potensielle fordeler for brukere ved å la AI lese følelsene deres, sa AI Dynamics teknisk sjef Ryan Monsurate til Lifewire i et e-postintervju. Han sa at en bruk ville være å designe grensesnitt som reduserer sannsynligheten for at folk blir frustrerte eller sinte på teknologien deres.
Et mer utfordrende problem å løse ville være å generere passende emosjonelle responser på følelsene som oppfattes av AI som samhandler med mennesker, sa Monsurate.
"Mange av oss har snakket med etterretningsassistentene våre, og selv om kvaliteten på tømmertonen og intonasjonen til stemmene deres har blitt bedre det siste tiåret, er de ikke bedre til å kommunisere på en måte som formidler forskjellige følelser, " han la til."Jeg ser at generative modeller er i stand til å generere syntetiske stemmer med følelser og med kontekstuelt passende følelser når modeller vokser i størrelse og kompleksitet, eller når vi gjør nye gjennombrudd innen dyp læring."
Men den mest umiddelbare fordelen med teknologi for følelseslesing kan være for selskaper som prøver å selge ting. Systemet SenseR lar for eksempel forhandlere tilpasse butikkopplevelsen. Datamaskiner ser på og analyserer uttrykkene og kroppsspråket til kunder. Ansatte kan bruke resultatene til å dytte et salg i riktig retning når de blir bedt av selgere i butikken, sa Fariha Rizwan, en IT- og PR-ekspert, til Lifewire i et e-postintervju.
"Fra et detaljhandelsanalysestandpunkt kan bruken av maskinsyn for å spore menneskelige kunder gi en forhandler innsikt i varigheten av engasjement i butikken, interessenivåer basert på varmekart, butikkreiser og demografiske kunder," la Rizwan til.
Hvem eier følelsene dine?
Når bedrifter i økende grad henvender seg til AI for å lese følelser, finnes det mange potensielle fallgruver for personvern. Ansiktsgjenkjenningsteknologier som driver systemer for følelseslesing har en tendens til å operere på offentlige og private steder uten samtykke fra personene som spores, lagre dataene deres og til tider selge disse dataene til høystbydende, sa Rizwan..
"Vi vet heller ikke i hvilken grad disse systemene er beskyttet mot nettangrep, som potensielt kan plassere en persons ansiktskart i hendene på en dårlig skuespiller," la Rizwan til. "Disse bekymringene har initiert et skifte i forbedret overvåking, overvåking, avsløring av personvern og ansvarlighet."
De største personvernbekymringene er ikke relatert til AI, men snarere de underliggende rammeverkene og regelverket for informasjonsdeling som allerede er på plass, hevdet Monsurate. Hvis selskaper kan tjene penger på dataene dine og bruke dem til å manipulere oppførselen din, vil det å forstå din følelsesmessige tilstand hjelpe dem å gjøre det bedre.
"Det vi trenger er lover for å motvirke denne oppførselen i utgangspunktet uavhengig av hvilke verktøy de bruker for å nå sine mål," la Monsurate til. "Det er ikke verktøyene, men de dårlige skuespillerne og våre nåværende personvernlover er sørgelig utilstrekkelige."
