Key takeaways
- Ny forskning tyder på at det kanskje ikke er noen måte å kontrollere supersmart kunstig intelligens på.
- En journal hevder at kontroll av AI ville kreve mye mer avansert teknologi enn vi har i dag.
- Noen eksperter sier at virkelig intelligent AI kan være her raskere enn vi tror.
Hvis mennesker noen gang utvikler supersmart kunstig intelligens, er det kanskje ingen måte å kontrollere det på, sier forskere.
AI har lenge vært utpekt som enten en kur for alle menneskehetens problemer eller en apokalypse i Terminator-stil. Så langt har imidlertid AI ikke kommet i nærheten av intelligens på menneskelig nivå. Men å holde bånd på avansert AI kan være et for komplekst problem for mennesker hvis det noen gang blir utviklet, ifølge en nylig artikkel publisert i Journal of Artificial Intelligence Research.
"En superintelligent maskin som kontrollerer verden høres ut som science fiction," sa Manuel Cebrian, en av avisens medforfattere, i en pressemelding.
"Men det finnes allerede maskiner som utfører visse viktige oppgaver uavhengig uten at programmerere helt forstår hvordan de har lært det. Spørsmålet oppstår derfor om dette på et tidspunkt kan bli ukontrollerbart og farlig for menneskeheten."
Kommer snart til en superdatamaskin i nærheten av deg
Journalavisen argumenterer for at kontroll av AI ville kreve mye mer avansert teknologi enn vi har i dag.
I studien deres utviklet teamet en teoretisk inneslutningsalgoritme som sikrer at en superintelligent AI ikke kan skade mennesker under noen omstendigheter, ved å simulere oppførselen til AI-en først og stoppe den hvis den anses som skadelig. Men forfatterne fant ut at en slik algoritme ikke kan bygges.
"Hvis du bryter problemet ned til grunnleggende regler fra teoretisk informatikk, viser det seg at en algoritme som vil kommandere en AI til ikke å ødelegge verden, kan utilsiktet stoppe sin egen operasjon." Iyad Rahwan, direktør for senteret for mennesker og maskiner ved Max Planck Institute for Human Development i Tyskland, sa i pressemeldingen.
"Hvis dette skjedde, ville du ikke vite om inneslutningsalgoritmen fortsatt analyserer trusselen, eller om den har stoppet for å inneholde den skadelige AI. Dette gjør faktisk inneslutningsalgoritmen ubrukelig."
Virkelig intelligent AI kan være her raskere enn vi tror, argumenterer Michalis Vazirgiannis, professor i informatikk ved École Polytechnique i Frankrike. «AI er en menneskelig artefakt, men den er i ferd med å bli en autonom enhet,» sa han i en e-post til Lifewire.
"Det kritiske punktet vil være hvis/når singularitet oppstår (dvs. når AI-agenter vil ha bevissthet som en enhet) og derfor vil de kreve uavhengighet, selvkontroll og eventuell dominans."
Singulariteten kommer
Vazirgiannis er ikke alene om å forutsi den nært forestående ankomsten av super AI. Sanne troende på AI-trusselen liker å snakke om "singulariteten", som Vazirgiannis forklarer er poenget med at AI vil erstatte menneskelig intelligens og "at AI-algoritmer potensielt vil realisere deres eksistens og begynne å oppføre seg egoistisk og samarbeidende."
Ifølge Ray Kurzweil, Googles ingeniørdirektør, vil singulariteten komme før midten av det 21. århundre. "2029 er den konsistente datoen jeg har spådd når en AI vil bestå en gyldig Turing-test og derfor oppnå menneskelige intelligensnivåer," sa Kurzweil til Futurism.
Hvis vi ikke kan vaske vårt eget hus, hvilken kode skal vi be AI om å følge?
"Jeg har satt datoen 2045 for 'Singularity', som er når vi vil multiplisere vår effektive intelligens en milliard ganger ved å slå sammen med intelligensen vi har skapt."
Men ikke alle AI-eksperter tror at intelligente maskiner er en trussel. AI-en som er under utvikling er mer sannsynlig å være nyttig for medikamentutvikling og viser ingen reell intelligens, sa AI-konsulent Emmanuel Maggiori i et e-postintervju. "Det er en stor hype rundt AI, som får det til å høres ut som det er virkelig revolusjonerende," la han til. "Nåværende AI-systemer er ikke så nøyaktige som publisert, og gjør feil som et menneske aldri ville gjort."
Ta kontroll over AI, nå
Å regulere AI slik at den ikke unnslipper vår kontroll kan være vanskelig, sier Vazirgiannis. Bedrifter, i stedet for regjeringer, kontrollerer ressursene som driver AI. "Selv algoritmene blir vanligvis produsert og distribuert i forskningslaboratoriene til disse store og kraftige, vanligvis multinasjonale, enhetene," sa han.
"Det er derfor tydelig at statens regjeringer har mindre og mindre kontroll over ressursene som er nødvendige for å kontrollere AI."
Noen eksperter sier at for å kontrollere superintelligent AI, må mennesker administrere dataressurser og elektrisk kraft. "Science fiction-filmer som The Matrix lager profetier om en dystopisk fremtid der mennesker brukes av AI som biokraftkilder," sa Vazirgiannis.
"Selv om det er fjerntliggende umuligheter, bør menneskeheten sørge for at det er tilstrekkelig kontroll over dataressursene (dvs. dataklynger, GPUer, superdatamaskiner, nettverk/kommunikasjon), og selvfølgelig kraftverkene som leverer elektrisitet som er absolutt skadelig for funksjonen til AI."
Problemet med å kontrollere AI er at forskere ikke alltid forstår hvordan slike systemer tar sine beslutninger, sa Michael Berthold, medgründer og administrerende direktør for datavitenskapsprogramvarefirmaet KNIME, i et e-postintervju. «Hvis vi ikke gjør det, hvordan kan vi «kontrollere» det?»
Han la til: "Vi forstår ikke når en helt annen beslutning tas basert på, for oss, irrelevante innspill."
Den eneste måten å kontrollere risikoen ved å bruke AI er å sikre at den bare brukes når risikoen er håndterbar, sa Berthold. «Forsatt på en annen måte, to ekstreme eksempler: Ikke sett AI over atomkraftverket ditt der en liten feil kan ha katastrofale bivirkninger,» la han til.
"På den annen side forutsier AI om romtemperaturen din bør justeres litt opp eller ned, kan være verdt den lille risikoen til fordel for bokomforten."
Hvis vi ikke kan kontrollere AI, bør vi lære det oppførsel, sa tidligere NASA-dataingeniør Peter Scott i et e-postintervju. "Vi kan til syvende og sist ikke sikre kontrollerbarheten til AI mer enn vi kan sikre barna våre," sa han.
"Vi oppdrar dem rett og håper på det beste; så langt har de ikke ødelagt verden. For å oppdra dem godt, trenger vi en bedre forståelse av etikk; hvis vi ikke kan rydde vårt eget hus, hva koden skal vi be AI om å følge?"
Men alt håp er ikke ute for menneskeheten, sier AI-forsker Yonatan Wexler, konserndirektør for FoU i OrCam. "Selv om fremskritt virkelig er imponerende, er min personlige tro at menneskelig intelligens ikke bør undervurderes," sa han i et e-postintervju. "Vi som art har skapt ganske fantastiske ting, inkludert AI selv."
Søken etter stadig smartere AI fortsetter. Men det kan være bedre å vurdere hvordan vi kontrollerer kreasjonene våre før det er for sent.
