Key takeaways
- AI og maskinlæringsalgoritmer ser på menneskelig atferd og kan lære å manipulere den, sier eksperter.
- Forskere skapte nylig en måte å finne og utnytte sårbarheter i måten folk tar valg ved hjelp av AI.
- Den mest sofistikerte sosiale mediealgoritmen akkurat nå er TikTok, sier en observatør.
Kunstig intelligens (AI) og maskinlæringsalgoritmer lærer i økende grad hvordan de kan påvirke brukernes atferd, sier eksperter.
Forskere ved Australias nasjonale vitenskapsbyrå skapte nylig en måte å finne og utnytte sårbarheter i måten folk tar valg ved hjelp av AI. Den siste forskningen er bare en av en bølge av AI-drevne systemer designet for å manipulere menneskelig beslutningstaking.
"Det er ingen ende på de mange måtene AI allerede påvirker atferd på," Kentaro Toyama, professor ved University of Michigan School of Information og forfatter av Geek Heresy: Rescuing Social Change from the Cult of Technology, sa i et e-postintervju.
"Faktisk, hvis du noen gang har gjort et Google-søk og fulgt opp en lenke, ble du påvirket av et AI-system som gjettet interessene dine og ga resultater som det mente var mest relevante for deg."
AI vs. Humans
I den australske forskningen publisert i en nylig artikkel, spilte menneskelige deltakere spill mot en datamaskin i forskjellige eksperimenter. Det første eksperimentet fikk deltakerne til å klikke på rød- eller blåfargede bokser for å vinne penger.
AI-en var vellykket omtrent 70 % av tiden, og lærte deltakerens valgmønstre og veiledet dem mot et spesifikt valg.
I et annet eksperiment så deltakerne på en skjerm og trykket på en knapp når de ble vist et bestemt symbol, eller trykket ikke på det når de ble tilbudt et annet. AI-en lærte å omorganisere symbolene, så deltakerne gjorde flere feil.
Resultatet av eksperimentene, konkluderte forskere, var at AI lærte av deltakernes svar. Maskinen identifiserte deretter og målrettet sårbarheter i folks beslutningstaking. Faktisk kan AI manipulere deltakere til å gjøre bestemte handlinger.
Det faktum at AI eller maskinlæring kan manipulere folk burde ikke komme som noen overraskelse, sier observatører.
"AI påvirker oppførselen vår hver dag," sa Tamara Schwartz, assisterende professor i cybersikkerhet og forretningsadministrasjon ved York College of Pennsylvania, i et e-postintervju.
"Vi hører hele tiden om algoritmene i sosiale medier-applikasjoner som Facebook eller Twitter. Disse algoritmene retter oppmerksomheten mot relatert innhold og skaper 'ekkokammer'-effekten, som igjen påvirker atferden vår."
TikTok ser på
Den mest sofistikerte sosiale mediealgoritmen akkurat nå er TikTok, sa Schwartz. Appen analyserer hva du er interessert i, hvor lenge du ser på noe, og hvor raskt du hopper over noe, og avgrenser deretter tilbudene for å holde deg til å se på.
"TikTok er mye mer vanedannende enn andre plattformer på grunn av denne AI-algoritmen, som forstår hva du liker, hvordan du lærer og hvordan du velger informasjon," la hun til. "Vi vet dette fordi gjennomsnittstiden brukere bruker på TikTok er 52 minutter."
Manipulation av menneskelig atferd med kunstig intelligens kan ha positive bruksområder, hevdet Chris Nicholson, administrerende direktør i AI-selskapet Pathmind, i et e-postintervju. Folkehelsebyråer kan for eksempel bruke kunstig intelligens for å oppmuntre folk til å ta bedre beslutninger.
"Men sosiale medier, videospillprodusenter, annonsører og autoritære regimer leter etter måter å motivere folk til å ta beslutninger som ikke er i deres beste interesse, og dette vil gi dem nye verktøy for å gjøre det," la han til.
De etiske problemene med AI som påvirker atferd er ofte av grad, sa Toyama. AI tillater fokusert annonsering der individuelle preferanser og svakheter kan utnyttes.
"Det er for eksempel mulig for et AI-system å identifisere personer som prøver å slutte å røyke og å peppe dem med fristende sigarettannonser," la han til.
Ikke alle er enige i at AI-manipulering av menneskelig atferd er problematisk. Både klassisk psykologi og kunstig intelligens observerer data, påpekte Jason J. Corso, direktør for Stevens Institute for Artificial Intelligence, i et e-postintervju.
"Menneskeforskere er sannsynligvis flinkere til å generalisere observasjoner og destillere teorier om menneskelig atferd som kan være bredere anvendelige, mens AI-modellene vil være mer mottagelige for å identifisere problemspesifikke nyanser," sa Corso.
"Fra et etisk synspunkt ser jeg ingen forskjell mellom disse."
