Key takeaways
- En rekke nye apper kan kanskje oppdage elevenes følelser.
- Intel og klasseromsprogramvareprodusenten Class utvikler etter sigende programvare som vil overvåke digitale elevers ansikter og kroppsspråk.
- Noen eksperter er bekymret for at bruk av kunstig intelligens til å overvåke elever kan føre til krenking av personvernet.
Skoler kan snart bruke kunstig intelligens (AI) for å overvåke elevenes følelsesmessige tilstander.
Intel og klasseromsprogramvareprodusenten Class utvikler programvare som vil overvåke digitale elevers ansikter og kroppsspråk. Systemet kan angivelig oppdage om studenter er lei, distrahert eller forvirret, men noen eksperter er bekymret for at programvaren kan føre til invasjoner av personvernet.
"Slike AI-baserte overvåkingsprodukter bør være gjennomsiktige om hvordan disse dataene brukes," sa Michael Huth, medgründer av selskapet Xayn og leder for dataavdelingen ved Imperial College London, til Lifewire i en e-post intervju. "Dersom det brukes til å spore engasjement i et elevkull, der engasjement på individnivå ikke registreres, er dette noe mindre problematisk fra et personvernperspektiv. Hvis noen av disse dataene skulle brukes til å påvirke elevvurderingen, vil jeg imidlertid kan se alle slags problemer som oppstår."
Voker over studenter
Class og Intel har gått sammen om å integrere en AI-basert teknologi som kjører sammen med videokonferanseprogramvaren Zoom, rapporterte Protocol. Programvaren kan brukes til å overvåke studenter, heter det i rapporten.
"Gjennom vårt partnerskap med Intel, vil vi kunne bringe nye, oppslukende funksjoner til Class' programvare som er drevet av forskningsstøttede funksjoner," ifølge selskapets nettsted. "Vi vil også jobbe sammen med Intel for å utnytte ressursene og gi lærere og studenter verdifull innsikt, felles casestudier, hvitebøker, nettseminarer og mye mer."
Intel fort alte Protocol at klasseromsprogramvaren er i de tidlige stadiene, og det er ingen planer om å sende produktet til markedet.
Partnerskapet med Class er ikke det eneste potensielle samarbeidet mellom Intels programvare for følelseslesing og andre produsenter. En nettbasert brosjyre fra Intel presenterer en ny elektronisk tavle k alt Viewboard rettet mot skoler. Intel-programvare "gjør det mulig for myViewboard å vurdere og vise elevenes emosjonelle tilstander som umiddelbar tilbakemelding for lærere," ifølge brosjyren.
Klasse er et av mange programvareprodukter som utgir seg for å spore elevenes følelser ved bruk av kunstig intelligens. Det er også 4Little Trees, en læringsplattform for følelsesgjenkjenning som er "en virtuell lærerassistent [som] vil hjelpe ved å velge de mest passende spørsmålene for deg eller utfordre deg når det trengs," ifølge selskapets nettsted.
Ashish Fernando, administrerende direktør i AI-selskapet iSchoolConnect, sa til Lifewire i et e-postintervju at AI kan trenes opp til å vurdere menneskelig atferd og funksjoner uten innvirkningen av subjektive skjevheter enkeltpersoner har.
"AI kan vurdere et betydelig større antall menneskelig atferd, inkludert mikrouttrykk som er enkle å gå glipp av, med en hastighet som er mye raskere enn et menneske," sa Fernando. "Der tilbakemelding kunne ha tatt timer, kan AI nå gi det samme innen noen få minutter."
Personvernbekymringer
Bruken av AI for å overvåke mennesker vokser. Snapchat har AI-teknologi som vurderer det emosjonelle nivået til en gruppe mennesker på et live-arrangement. Mad Street Den bruker computer vision AI for å hjelpe forhandlere å gjenkjenne potensielle kjøperes ansiktsuttrykk og følelser. BrainQ utnytter AI for å forstå hvordan passasjerer samhandler med de autonome kjøretøyene de bruker. Og selskaper bruker kunstig intelligens for å spore førertrøtthet.
"Dette er et flott bruksområde for trafikksikkerhet, men det reiser spørsmål om personvernrettighetene til sjåfører i deres personlige kjøretøy," sa Huth. "Vil tretthetsinformasjon bli delt med forsikringsselskapet eller bilprodusenten? Eller vil det bare advare sjåføren om å stoppe og hvile? Dette er mindre et problem for kommersielle bilflåter som lastebiler, varebiler eller førerhus."
Et problem er at AIs informasjon, for eksempel muskelbevegelser for å antyde følelsesmessig tilstand, kanskje ikke er pålitelig, sa Huth. "Dette skaper et dilemma, ettersom mer pålitelig AI kan kreve tilgang til enda mer sensitive data som EEG-signaler," la han til.
For studenter kan AI være nyttig for å overvåke overholdelse under netteksamener når en proctor ikke kan være fysisk til stede. Men denne bruken av AI for dette er omstridt, sa Huth, fordi systemet prøver å avgjøre om en student har til hensikt å jukse eller jukse, og det er et reelt potensial for falske positiver som resulterer i uberettiget straff for studenter som ikke har gjort noe g alt.
"Enhver AI som brukes til dette formålet må være robust nok til å takle toalettpauser, nervøse tics fra individuelle elever (som uberegnelige øyebevegelser) og så videre," sa Huth.
