Key takeaways
- Ny forskning fra MIT-forskere viser veien til å tilpasse nevrale nettverk til små enheter.
- MCUNet tillater dyp læring på systemer med begrenset prosessorkraft og minne.
- Innovasjonen kan også gi mulighet for smartere, mer smidig medisinsk utstyr.
Smarthøyttalere og andre enheter som utgjør tingenes internett (IoT) kan en dag få kraften til det nevrale nettverket til å gjøre mer med mindre, sier forskere.
Et nytt system k alt MCUNet tillater utforming av små nevrale nettverk på IoT-enheter, selv med begrenset minne og prosessorkraft. I følge en artikkel fra MIT-forskere publisert på preprint-serveren Arxiv, kan teknologien gi nye muligheter til smarte enheter samtidig som den sparer energi og forbedrer datasikkerheten.
Undersøkelsen "er en av de geniale ideene som virker åpenbare når du hører den," sa John Suit, rådgivende CTO hos robotikkselskapet KODA, i et e-postintervju. "Det er en elegant tilnærming til problemet. Denne forskningen er så viktig fordi den til slutt vil tillate sanntidsoptimalisering av nevrale nettverk for enhver enhet der ressursene kan være kjent for algoritmen."
Det dette virkelig viser er at kraften ikke trenger å være knyttet til størrelse..
Store beregninger på små enheter
IoT-enheter kjører vanligvis på databrikker uten operativsystem, noe som gjør det vanskelig å kjøre mønstergjenkjenningsoppgaver som dyp læring. For mer intens analyse behandles ofte IoT-innsamlede data i skyen, selv om de er sårbare for hacking.
Det er mye nevrale nettverk kan gjøre for å forbedre det økende antallet IoT-enheter, men størrelsen har vært et problem.
"For å flytte nettverkene ned i selve enheten, noe som har vist seg vanskelig, må du finne en måte å optimalisere søkeområdet for en rekke mikrokontrollere," forklarte Suit. "Et standard eller generisk system ville ikke fungere på grunn av ressurstoleransene på IoT-enheter. Tenk på veldig lav effekt, veldig små prosessorer når det gjelder prosessorkraft."
Det er der arbeidet til MIT-forskerne kommer inn.
"Hvordan distribuerer vi nevrale nett direkte på disse bittesmå enhetene?" studiens hovedforfatter, Ji Lin, en Ph. D. student ved MITs avdeling for elektroteknikk og informatikk, sa i en pressemelding. "Det er et nytt forskningsområde som blir veldig varmt. Selskaper som Google og ARM jobber alle i denne retningen.«
TinyEngine to the Rescue
MIT-gruppen designet to komponenter som er nødvendige for driften av nevrale nettverk på mikrokontrollere. En del er TinyEngine, som ligner på et operativsystem, men fjerner koden til det viktigste. En annen er TinyNAS, en søkealgoritme for nevral arkitektur.
"Vi har mange mikrokontrollere som kommer med forskjellige strømkapasiteter og forskjellige minnestørrelser," sa Lin. "Så vi utviklet algoritmen [TinyNAS] for å optimere søkeområdet for forskjellige mikrokontrollere. Den tilpassede naturen til TinyNAS betyr at den kan generere kompakte nevrale nettverk med best mulig ytelse for en gitt mikrokontroller - uten unødvendige parametere. Så leverer vi den endelige, effektiv modell til mikrokontrolleren."
Det er en elegant tilnærming til problemet.
Lins arbeid kan oversettes til å lage smartere, mer smidig medisinsk utstyr.
"Det dette virkelig viser er at makt ikke trenger å være knyttet til størrelse, og på sykehus, der alt beveger seg raskt i trange rom, kan det bokstavelig t alt bety forskjellen mellom liv og død," Kevin Goodwin, Administrerende direktør i EchoNous, et selskap som lager AI-assistert medisinsk utstyr, sa i et e-postintervju.
Goodwin sa at teamet hans brukte år på å bygge og trene et nevr alt nettverk som deretter kunne brukes til å kartlegge hjertestrukturer i en sanntids ultralydskanning - alt i en håndholdt enhet k alt KOSMOS som veier under to pund.
"Nå kan leger enkelt flytte fra rom til rom og få skanninger av diagnostisk kvalitet med AI-veiledning," la han til. "De trenger ikke å sende pasienter andre steder for disse skanningene eller miste kritisk tid ved desinfisering av vognbaserte maskiner."
MCUNet er et spennende blikk på en verden der små gadgets kan være smartere enn noen gang. Ettersom antallet IoT-enheter vokser raskt, vil vi se etter alt fra smarte apparater til medisinsk utstyr for å ha sine egne nevrale nettverk.
