Key takeaways
- Programmer med kunstig intelligens som Cogito prøver å lære mennesker empati i omgangen med kunder.
- Eksperter er uenige om det er mulig for en maskin å lære folk empati eller om den bare finner datapunkter.
- Noen eksperter er også bekymret for at undervisning i AI-empati kan frarøve menneskeheten den følelsen.
Tenk deg at du jobber i et kundesenter og en kunde ringer. Du svarer, og med en gang begynner det å gå dårlig. Kunden er sint, og spenningen øker.
Du begynner å si ting du senere kan angre på. Plutselig dukker det opp en melding på dataskjermen. "Empathy Cue-Tenk på hvordan kunden har det. Prøv å relatere."
Det er ikke en ekte person som forteller deg hva du skal gjøre. Det er en melding fra Cogito, et kunstig intelligensprogram utviklet for å hjelpe arbeidere med å føle med frustrerte innringere og øke ytelsen. Cogito er et av et økende antall AI-programmer som prøver å lære mennesker empati.
Det er en åpenbar ironi her. Menneskelige forskere har i flere tiår prøvd å lage mer naturtro datamaskiner. Nå forteller maskinene oss hvordan vi skal oppføre oss. Men kan programvare virkelig lære oss hvordan vi kan være mer empatiske? Det er et problem som kan ha dype implikasjoner ettersom kunstig intelligens begynner å gjennomsyre dagliglivet.
AI etterligner menneskelig atferd
Fra et teknisk synspunkt er det klart at AI kan fange opp ledetråder om hvordan mennesker har det og gi tilbakemelding.
"AI og maskinlæringssystemer er veldig flinke til å finne mønstre i data," sa Adam Poliak, en postdoktor i informatikk ved Barnard College, i et e-postintervju.
"Hvis vi gir en AI mange eksempler på empatisk tekst, kan AI-en oppdage mønstre og signaler som fremkaller eller viser empati."
AI kan være programmert til å bryte ned noen av de menneskelige atferdene som følger med empati og minne mennesker om å utføre dem, men det er ikke å lære empati.
AI som analyserer menneskelige reaksjoner kan bidra til å bygge bro over det økende gapet mellom mennesker når vi kommuniserer digit alt, sa Bret Greenstein, en AI-ekspert hos Cognizant Digital Business, i et e-postintervju.
"I løpet av det siste året vokste sanntid, video, tale og meldinger raskere enn noen kunne ha forestilt seg, og med det fulgte store utfordringer med å skape virkelig empatiske relasjoner uten å egentlig bruke fysisk tid med mennesker," han lagt til.
AI kan bidra til å analysere og vurdere egenskaper som tone og følelser i tale, sa Greenstein. "Dette kan hjelpe personen som mottar kommunikasjon til å bedre forstå hva som ble ment, og hjelper personen som 'snakker' ved å vise hvordan meldinger kan tolkes," la han til.
Mens selskaper skynder seg å tjene penger på AI-treningsprogramvare som Cogito, er spørsmålet om AI kan lære mennesker empati fortsatt åpent. Og svaret kan ha like mye å gjøre med filosofi som teknologi.
Ilia Delio er en teolog ved Villanova University, hvis arbeid sentrerer om skjæringspunktet mellom tro og vitenskap. Hun tror at AI kan lære empati.
Delio påpekte at et team ved MIT har bygget roboter som kan etterligne menneskelige følelser som lykke, tristhet og medfølelse. "Mens robotfølelsene er programmert, kan robotene samhandle med mennesker og dermed etablere eller forsterke nevrale mønstre," sa hun.
Kan en maskin forstå empati?
Eksperter definerer minst tre former for empati, alle involverer evnen til å forstå og forholde seg til en annen person, sa Karla Erickson, sosiolog ved Grinnell College i Iowa og forfatter av den kommende boken, Messy Humans: A Sociology of Human/Machine Relations, som utforsker forholdet vårt til teknologi.
"Relatering er ikke noe AI kan gjøre, og det er grunnlaget for empati," sa Erickson i et e-postintervju.
"AI kan være programmert til å bryte ned noen av menneskelig atferd som følger med empati og minne mennesker om å utføre dem, men det er ikke å lære empati. Å forholde seg, spesielt når det gjelder empati, vil kreve at lytteren har nødvendig kontekst for å relatere med dette, jeg mener at 'livet' til en AI ikke inkluderer tap, lengsel, håp, smerte eller død."
Eksperter kolliderer imidlertid om hvorvidt AI kan lære oss hvordan vi kan føle empati. Noe av problemet er at ikke alle er enige om hva "empati" eller "AI" betyr. Begrepet kunstig intelligens blir kastet rundt mye, men det er foreløpig ikke den typen intelligens vi tenker på som menneskelig.
Dette er rent ingeniørarbeid, og jeg er ikke i en slik illusjon at den aktuelle AI-en selv har følelser eller virkelig forstår følelser.
""Empati-signalene" har ingenting med empati å gjøre, " sa Michael Spezio, professor i psykologi, nevrovitenskap og datavitenskap ved Scripps College, i et e-postintervju.
"De er signaler fra stemmer som menneskelige vurderere har klassifisert som stemmer til mennesker som er irriterte/irriterte. Så det er bare å bruke menneskelig ekspertise i en matematisk modell og så hevde at modellen bygd på menneskelig ekspertise-er intelligent. Begrensede maskinlæringstilnærminger som dette blir ofte hypet som AI uten å være intelligente."
Ved Rensselaer Polytechnic Institute bygger Selmer Bringsjords laboratorium matematiske modeller av menneskelige følelser. Forskningen er ment å lage en AI som kan score høyt på emosjonelle intelligenstester og bruke dem på mennesker. Men Bringsjord, en AI-ekspert, sier at all undervisning AI gjør er utilsiktet.
"Men dette er rent ingeniørarbeid, og jeg er ikke i en slik illusjon at den aktuelle AI-en selv har følelser eller virkelig forstår følelser," sa han i et e-postintervju.
Hva kan gå g alt?
Mens selskaper som Cogito ser en lys fremtid med AI-trening av mennesker, er andre observatører mer forsiktige.
Supportiv, en online psykisk helsetjeneste, bruker AI for å rute hver bruker, basert på en enkelt tanke de uttrykker, i sanntid, til en emnespesifikk peer-støttegruppe som dynamisk samles for brukere med lignende problemer.
Hver gruppe har en "superdrevet" menneskelig moderator som holder den tekstbaserte chatten trygg og trollfri og kan dukke opp, igjen gjennom AI, relevante ressurser, anbefalinger og henvisninger rett inn i gruppesamtalen. Ved å bruke AI trener Supportiv moderatorene sine til å være dyktige til å oppdage intensiteten av emosjonelle behov.
"Empati er en muskel vi bygger," sa Zara Dana, en dataforsker ved Supportiv, i et e-postintervju.
"Hvis vi begynner å bruke en krykke for å gå, vil musklene våre atrofiere. Jeg kan ikke la være å lure på, ville en avhengig arbeidstaker føle seg trygg hvis AI-systemet ikke er online en dag? Er hun i stand til å gjøre det jobb effektivt? Hva er de langsiktige effektene på arbeiderne? Hvordan vil de navigere i komplekse sosiale situasjoner der AI er fraværende?"
Selv om bruk av AI for å lære empati fungerer, hva skjer når vi begynner å stole for mye på AI for å trene følelser? En mulig ulempe er at mennesker kan bli mer knyttet til roboter enn til andre mennesker fordi roboter ikke kan velge mot programmet sitt, påpekte Delio.
"Den menneskelige evnen til fri vilje setter menneskelig handlefrihet i en mer tvetydig posisjon," sa Delio. "En person kan være medfølende den ene dagen og hensynsløs den neste; en robot vil forbli konsekvent medfølende med mindre han er opplært til å gjøre noe annet."
Det er mye som kan gå g alt hvis AI lærer mennesker hvordan de skal oppføre seg som mennesker, sier eksperter.
Vi har utviklet oss til å være sosiale dyr, og vår empati er sentral for vår evne til å knytte kontakt med andre og bry oss om kollektiver vi tilhører.
"Uten menneskelig tilsyn, kan studenten lære noe helt g alt," sa Bringsjord.
"Tone og tonehøyde er bare atferdsmessige korrelater, uten noe innhold. Dollar til smultringer i stemmen min mens jeg underviser i klasserommet vil bli lest av mange…som indikerer at jeg er opprørt, mens jeg i virkeligheten" Jeg er bare lidenskapelig og trenger i det minste empati."
Hvis AI-trening av mennesker blomstrer, kan vi komme til å stole på det. Og det er ikke nødvendigvis en god ting.
"Denne opplæringen devaluerer menneskelige ferdigheter, som er betydelige, og flytter oppmerksomheten mot AI som om de er de med ekspertise," sa Erickson.«Vi har utviklet oss til å være sosiale dyr, og vår empati er sentral for vår evne til å koble oss til andre og bry oss om kollektiver som vi tilhører.»
