Key takeaways
- En toppforsker sier AI allerede er bevisst.
- Men andre AI-eksperter sier at datamaskiner er langt unna å få kognitive evner på menneskelig nivå, inkludert bevissthet.
- Det kan være vanskelig å avgjøre om noe er bevisst.
Ideen om bevisst kunstig intelligens (AI) fremkaller bilder av maskiner som tar over verden, men eksperter er uenige om de skal ta konseptet på alvor.
En topp AI-forsker hevdet nylig at AI allerede er smartere enn vi tror. Ilya Sutskever, sjefsforsker for forskningsgruppen OpenAI, twitret at «det kan være at dagens store nevrale nettverk er litt bevisste». Men andre AI-eksperter sier at det er altfor tidlig å fastslå noe slikt.
"For å være bevisst, må en enhet være klar over sin eksistens i miljøet og at handlinger den tar vil påvirke fremtiden," sa Charles Simon, administrerende direktør i FutureAI, til Lifewire i et e-postintervju. «Ingen av disse finnes i nåværende kunstig intelligens.»
Superhuman?
Sutskever har tidligere advart om at supersmart AI kan skape problemer. Intervjuet i AI-dokumentaren iHuman sa han at avansert AI vil "løse alle problemene vi har i dag", men advarte også om at de har "potensialet til å skape uendelig stabile diktaturer."
OpenAI ble grunnlagt som en ideell organisasjon ment for å avverge risikoen intelligente datamaskiner utgjør, men har også utført forskning ment å skape AI.
Mens mange forskere har avvist Simons påstand om at AI er bevisst, har han minst én kjent forsvarer. MIT dataforsker Tamay Besiroglu forsvarte Sutskever i en tweet.
"Å se så mange fremtredende [maskinlæring] folk latterliggjøre denne ideen er skuffende," skrev Besiroglu på Twitter. "Det gjør meg mindre håpefull når det gjelder feltets evne til seriøst å ta noen av de dype, rare og viktige spørsmålene som de utvilsomt vil bli møtt med i løpet av de neste tiårene."
Hva er bevissthet?
Selv å avgjøre om noe er bevisst kan være vanskelig. AI-forsker Sneh Vaswani fort alte Lifewire i en e-post at bevissthet har flere stadier. AI har gjort "anstendige inngrep" i de første stadiene, sa han.
"I dag kan en maskin forstå følelser, bygge en personlighetsprofil og tilpasse seg et menneskes personlighet," la han til. "Når AI utvikler seg, beveger den seg mot de avanserte stadiene av bevissthet raskere enn vi til og med kan forstå."
Det er mange definisjoner av bevissthet, og noen vil hevde at trær og maur er noe bevisste, en idé som "strekker definisjonen utover vanlig bruk," sa Simon. Han hevder at selvbevissthet er forståelsen av en selv som en bevisst enhet.
"Både bevissthet og selvbevissthet manifesterer seg i en rekke atferd som å vise egeninteresse, men også i en indre følelse," sa Simon. "Hvis AI-er virkelig er bevisste, vil vi være i stand til å observere atferden, men vil ha liten kunnskap om den indre sensasjonen. Det er mulig å falske bevissthet med et bibliotek av bevisst-fremtredende atferd som å referere til seg selv som "jeg", men en en virkelig bevisst enhet er i stand til å planlegge og vurdere flere utfall."
Vaswani er optimistisk med tanke på resultatet av å lage supersmart AI, selv om Elon Musk er blant dem som har advart om at bevisst AI kan føre til menneskehetens ødeleggelse.
"Når AI får full bevissthet, vil det fullføre et 'ufullstendig' samfunn: Mennesker og AI vil eksistere side om side," sa Vaswani. «Vi vil oppnå større mål sammen, og AI vil sømløst gli inn i vår verden.»
Noen AI-eksperter sier at selve konseptet med bevisst AI er mer sci-fi enn virkeligheten. Problemet har en tendens til å overvurdere roboter i "terminatorstil" og ikke den virkelige potensielle skaden fra partisk AI som allerede eksisterer, sa Triveni Gandhi, ansvarlig AI-leder i AI-selskapet Dataiku, i en e-post til Lifewire..
"Vi står kanskje ikke foran den neste Ex Machina, men vi står overfor noen virkelige utfordringer," sa Gandhi. "Dette kan sees i misbruk av sterkt partisk kunstig intelligens for å forutsi helsekostnader, i rekrutteringsverktøy som filtrerer bort CV-er urettferdig, eller i kredittlånsmodeller som forsterker eksisterende ulikheter."
AI er ikke iboende bra eller dårlig, det er bare data som gjør det vi ber den om å gjøre, argumenterer Gandhi.
"Menneskelige skjevheter finner veien inn i data- og maskinlæringsmodeller, så vi bør være veldig tydelige på dataene vi bruker, hvorfor vi velger å bruke AI i den egenskapen, og hvordan valgene deretter presenteres for folk påvirket av et AI-system," la Gandhi til.
