Key takeaways
- Deep Nostalgia er et nytt program som lar deg animere gamle bilder.
- Teknologien viser hvor enkelt det er å lage videoer av folk som gjør ting de faktisk ikke har gjort i det virkelige liv.
- Dyp falsk teknologi er allerede så sofistikert at det er vanskelig å si om en video er ekte eller datagenerert, sier en ekspert.
Vær forsiktig med ny programvare som kan lage såk alte "deep fakes", der videoer av ekte mennesker kan simuleres, advarer eksperter.
Deep Nostalgia, utgitt av selskapet MyHeritage, er trending på sosiale medier, med brukere som gjenoppliver alle fra kjente komponister til døde slektninger. Programvaren får blandede reaksjoner, med noen mennesker som er fornøyd med kreasjonene, og andre synes de er skumle. Teknologien viser hvor enkelt det er å lage videoer av folk som gjør ting de faktisk ikke har gjort i det virkelige liv.
"Deepfake-teknologi blir mer sofistikert og farligere," sa Aaron Lawson, assisterende direktør for SRI Internationals Speech Technology and Research (STAR) Laboratory, i et e-postintervju. "Dette er delvis på grunn av arten av kunstig intelligens. Der 'tradisjonell' teknologi krever menneskelig tid og energi for å forbedre seg, kan AI lære av seg selv.
"Men AIs evne til å utvikle seg selv er et tveegget sverd," fortsatte Lawson. "Hvis en AI er skapt for å gjøre noe velvillig, flott. Men når en AI er designet for noe ondsinnet som dype forfalskninger, er faren enestående."
Programvare gir liv til bilder
Genealogy-nettstedet MyHeritage introduserte animasjonsmotoren forrige måned. Teknologien, kjent som Deep Nostalgia, lar brukere animere bilder via MyHeritage-nettstedet. Et selskap k alt D-ID designet algoritmer for MyHeritage som digit alt gjenskaper bevegelsen til menneskelige ansikter. Programvaren bruker bevegelsene til fotografier og endrer ansiktsuttrykk for å bevege seg slik menneskeansikter vanligvis gjør, ifølge MyHeritage-nettstedet.
Deep Nostalgia viser at dyp-falsk teknologi blir mer tilgjengelig, sa Lior Shamir, professor i informatikk ved Kansas State University, i et e-postintervju. Den utvikler seg raskt og eliminerer selv de subtile forskjellene mellom falsk og ekte video og lyd.
"Det har også vært betydelige fremskritt mot sanntids dype falske, noe som betyr at overbevisende dype falske videoer genereres på tidspunktet for videokommunikasjon," sa Shamir."For eksempel kan man ha et Zoom-møte med en bestemt person, mens man ser og hører stemmen til en helt annen person."
Det er også et økende antall språkbaserte dype forfalskninger, sa Jason Corso, direktør for Stevens Institute for Artificial Intelligence ved Stevens Institute of Technology, i et e-postintervju. "Å generere hele avsnitt med dyp falsk tekst mot en bestemt agenda er ganske vanskelig, men moderne fremskritt innen dyp naturlig språkbehandling gjør det mulig," la han til.
Hvordan oppdager du en dyp forfalskning
Mens teknologi for dypfalsk deteksjon fortsatt er i et begynnende stadium, er det noen måter du kan oppdage en på, sa Corso og startet med munnen.
"Variasjonen i utseendet på innsiden av munnen når noen snakker er veldig høy, noe som gjør det vanskelig å animere overbevisende," forklarte Corso. «Det kan gjøres, men det er vanskeligere enn resten av hodet. Legg merke til hvordan Deep Nostalgia-videoene ikke demonstrerer fotografiets evne til å si "Jeg elsker deg" eller en annen setning under den dype falske kreasjonen. Å gjøre det vil kreve åpning og lukking av munnen, noe som er svært vanskelig for dyp falsk generasjon."
Ghosting er nok en giveaway, la Corso til. Hvis du ser uskarphet rundt kantene på hodet, er det et resultat av "rask bevegelse eller begrensede piksler tilgjengelig i kildebildet. Et øre kan delvis forsvinne et øyeblikk, eller håret kan bli uskarpt der du ikke ville forvente det," han sa.
Du kan også se etter fargevariasjoner når du prøver å oppdage en dyp falsk video, for eksempel en skarp linje over ansiktet, med mørkere farger på den ene siden og lysere på den andre.
"Datamaskinalgoritmer kan ofte oppdage disse forvrengningsmønstrene," sa Shamir. "Men dype falske algoritmer går raskt fremover. Det er uunngåelig at det kreves strenge lover for å beskytte mot dyp forfalskning og skaden de lett kan forårsake."
