Key takeaways
- Bedrifter i sosiale medier søker måter å forhindre at brukere blir utsatt for misbruk.
- Instagram gjør det enklere å forhindre uønskede kommentarer og direktemeldinger.
- Nettmisbruk er vanlig, ifølge en undersøkelse fra Pew Research Center.
Sosiale medieselskaper prøver å slå ned på det vedvarende problemet med misbruk på plattformene sine.
Instagram sa nylig at det ville gjøre det enklere å forhindre uønskede kommentarer og direktemeldinger på den sosiale nettverkstjenesten for bilde- og videodeling. Brukere kan nå automatisk filtrere ut støtende innhold og skjule kommentarer og direktemeldingsforespørsler fra spesifikke brukere.
"Hvis sosiale medieselskaper ikke slår ned på støtende meldinger, vil de bare ende opp med at støtende brukere misbruker hverandre, og ingen vil faktisk konsumere innhold på sosiale medier på en rimelig måte," Thomas Roulet, professor ved University of Cambridge som studerer sosiale medier-problemer, fort alte Lifewire i et e-postintervju.
"De vil i utgangspunktet miste de gode og verdifulle brukerne på lengre sikt."
Angrep er utbredt
Sport har nylig vært et brennpunkt for angrep på sosiale medier. Etter EM 2020-finalen angrep sinte fans engelske fotballspillere på Instagram etter lagets nederlag. Hendelsene, som inkluderte rasistiske kommentarer og emoji, satte søkelyset på hjelpeløsheten til Instagram-brukere til å forhindre angrep på plattformen. Modellen Chrissy Teigen slettet Twitter-kontoen sin i mars etter å ha klaget over overgrep på plattformen.
"Vi utviklet denne funksjonen fordi skapere og offentlige personer noen ganger opplever plutselige økninger av kommentarer og DM-forespørsler fra folk de ikke kjenner," skrev sjef for Instagram Adam Mosseri i et blogginnlegg.
Instagrams nye Limits-funksjon er ment å bidra til å forhindre misbruk ved å la brukere velge hvem som kan samhandle med dem i travle tider. Brukere kan slå på begrensninger for kontoer som ikke følger dem og de som tilhører nylige følgere. Når Grenser er aktivert, kan ikke disse kontoene legge inn kommentarer eller sende DM-forespørsler i en spesifisert periode.
En annen Instagram-funksjon k alt Hidden Words, designet for å beskytte brukere mot uønskede DM-forespørsler, utvides også. Skjulte ord filtrerer automatisk forespørsler som inneholder støtende ord, setninger og emojier. Filteret legger ting du ikke vil se i en skjult mappe, der du kan bestemme om du vil se dem. Den filtrerer også ut forespørsler som sannsynligvis er spam eller på annen måte er av lav kvalitet.
Instagram har oppdatert sin Hidden Words-database med nye typer støtende språk, inkludert strenger med emoji, og inkludert dem i filteret, sa Mosseri. Funksjonen har blitt lansert i utvalgte land og vil være tilgjengelig over hele verden innen slutten av måneden.
Twitter vurderer måter å forhindre misbruk
Andre sosiale medieplattformer vurderer også tiltak mot misbruk.
Twitter undersøker måter å hjelpe brukere med å forhindre uønsket oppmerksomhet. Selskapets varslingssystem varsler en bruker når de har blitt direkte merket i en tweet. Funksjonen er nyttig hvis tweeten er interessant. Men støtende innhold kan føre til nettmobbing.
Selskapet har sagt at det vurderer ulike måter å forhindre misbruk på, inkludert å la brukere «unomtale» seg selv. Denne muligheten vil tillate brukere å fjerne navnet sitt fra en annens tweet, slik at de ikke lenger er merket i den og vil forhindre at uønskede kommentarer vises i feeden deres.
Nettmisbruk er vanlig. En fersk Pew Research Center-undersøkelse fant at 41 % av amerikanerne personlig har opplevd en eller annen form for trakassering på nettet. Da de ble bedt om å vurdere hvor godt disse selskapene takler trakassering eller mobbing på nettet på plattformene sine, sa bare 18 % at sosiale medieselskaper gjør en utmerket eller god jobb.
Roulet sa at misbruk på sosiale medier er et vanskelig problem å fikse. De første kontaktpunktene er de misbrukte brukerne som kan rapportere fornærmende meldinger. Når en bruker er rapportert flere ganger, kan IP-adressen utestenges.
"Viktig, ettersom sosiale medieselskaper samler data om rapporterte meldinger, kan de kanskje automatisere og forbedre oppdagelsen av støtende meldinger ved hjelp av maskinlæring, med risiko for at de noen ganger sensurerer akseptabelt innhold," la Roulet til.
Mosseri sa at Instagram ville "investere i organisasjoner fokusert på rasemessig rettferdighet og rettferdighet."
"Vi vet at det er mer å gjøre, inkludert å forbedre systemene våre for å finne og fjerne støtende innhold raskere og holde de som legger det ut til ansvar," skrev Mosseri.
