Key takeaways
- Forskere har utviklet et AI-system ment å oppdage og flagge falske nyheter.
- Modellen gjennomsøker et offentlig datasett med falske nyheter, varsler brukere og omdirigerer dem til bekreftede informasjonskilder.
-
Det er et økende antall AI-metoder for å motvirke falske nyheter på nettet.
Kunstig intelligens (AI) bidrar til å dempe den raske spredningen av desinformasjon på nettet, sier eksperter.
Forskere har utviklet et AI-system ment å oppdage og flagge falske nyheter. Modellen gjennomsøker et offentlig datasett med falske nyheter, varsler brukere og omdirigerer dem til verifiserte informasjonskilder. Det er en del av et økende antall AI-metoder for å motvirke falske nyheter.
"Mengden av informasjon som flyter kaster ut internett, spesielt sosiale nettverk, er enorm og kan ikke håndteres manuelt, spesielt med høy nøyaktighet," Wael AbdAlmageed, professor i datateknikk ved University of Southern California, som har utviklet AI-algoritmer for å oppdage visuell feilinformasjon, fort alte Lifewire i et e-postintervju.
"Det er viktig å overvåke og flagge feilinformasjon i sanntid siden når feilinformasjon begynner å spre seg, er det vanskelig å overbevise folk om at informasjonen er falsk, spesielt når feilinformasjon bekrefter våre skjevheter," la han til.
Keeping It Real
AI-teknikken utviklet av et team ved Australias Macquarie University kan bidra til å redusere spredningen av falske nyheter. Modellen kan integreres i en app eller nettprogramvare og tilbyr lenker til relevant «ekte» informasjon som er i tråd med interessene til hver enkelt bruker.
"Når du leser eller ser nyheter på nettet, blir ofte nyhetsartikler om lignende hendelser eller emner foreslått for deg ved å bruke en anbefalingsmodell," sa Shoujin Wang, en dataforsker ved Macquarie University som jobbet med forskningen. nyhetsmelding.
Wang sier at nøyaktige nyheter og falske nyheter for samme begivenhet ofte bruker forskjellige innholdsstiler, noe som forvirrer datamaskinmodeller til å behandle dem som nyheter for forskjellige begivenheter.
Macquarie Universitys modell «fjerner» informasjonen til hver nyhet i to deler: skiltene som viser om nyheten er falsk og den hendelsesspesifikke informasjonen som viser emnet eller hendelsen nyheten handler om. Modellen ser deretter etter mønstre i hvordan brukere skifter mellom ulike nyhetsartikler for å forutsi hvilken nyhetshendelse brukeren kan være interessert i å lese neste gang.
Forskerteamet trente modellen på et offentlig datasett med falske nyheter publisert på GitHub, k alt FakeNewsNet, som lagrer falske nyheter fra PolitiFact og GossipCop sammen med data som nyhetsinnhold, sosial kontekst og brukerlesehistorier.
Veksten av falske nyheter
Falske nyheter er et økende problem, tyder studier. NewsGuard har funnet ut at en betydelig del av veksten i sosiale medier kom fra upålitelige nettsteder. I 2020 kom 17 prosent av engasjementet blant de 100 beste nyhetskildene fra rødvurderte (generelt upålitelige) nettsteder, sammenlignet med omtrent 8 prosent i 2019.
Subramaniam Vincent, direktør for journalistikk og medieetikk ved Markkula Center for Applied Ethics ved Santa Clara University, sa til Lifewire i et e-postintervju at AI kan bidra til å motvirke desinformasjon.
Teknologien kan brukes til å "overvåke kontoatferd for orkestrert deling korrelert med hatefulle ytringer eller allerede avkreftede påstander eller å bli avkreftet av faktasjekkere eller kjente propagandistiske statlige enheter eller begynnende grupper med rask medlemsvekst," forklarte Vincent. "AI kan også brukes sammen med design for å flagge innhold av bestemte typer for å legge til friksjon før de deles."
AbdAlmageed sa at sosiale nettverk må integrere falske nyhetsdeteksjonsalgoritmer som en del av deres anbefalingsalgoritmer. Målet, sa han, er å "flagge falske nyheter som falske eller ikke nøyaktige hvis de ikke helt vil forhindre deling av falske nyheter."
Når det er sagt, mens AI kan være nyttig for å motvirke falske nyheter, har tilnærmingen sine ulemper, sa Vincent. Problemet er at AI-systemer ikke kan forstå betydningen av menneskelig tale og skrift, så de vil alltid være bak kurven.
"Jo mer nøyaktig AI kan bli med noen former for åpenlyst hatefulle ytringer og desinformasjon, jo mer vil menneskelig kultur gå over til nyere kode og underjordisk betydningsoverføring for å organisere," sa Vincent.
Wasim Khaled, administrerende direktør for desinformasjonsovervåkingsselskapet Blackbird. AI, sa i en e-post til Lifewire at online desinformasjon er en trussel i stadig utvikling. Nye AI-systemer må kunne forutsi hvor falske nyheter vil dukke opp neste gang.
"I de fleste tilfeller kan du ikke bygge et AI-produkt og kalle det ferdig," sa Khaled. «Atferdsmønstre endres over tid, og det er viktig at AI-modellene dine følger med på disse endringene.»
