Key takeaways
- Europakommisjonen (EC) har foreslått et nytt sett med regler for å begrense spredningen av materiale om seksuelle overgrep mot barn.
- Forslaget krever skanning av private nettsamtaler og har blitt panorert av personvernadvokater.
- Det som kreves er å bruke teknologi for å hjelpe foreldre med å overvåke barna sine på nettet, foreslår eksperter.
Barnemisbruksmateriale på tvers av nettkanaler har nådd enestående nivåer, men en foreslått løsning for å regjere i denne trusselen passer ikke godt med personvernforkjempere.
EU-kommisjonen (EC) har nylig foreslått nye regler som krever at chat-apper som WhatsApp og Facebook Messenger kjemmer gjennom flaggede brukeres private meldinger for materiale om seksuelt misbruk av barn (CSAM).
"Dette er et imponerende dristig og ambisiøst forslag for å systemisk forhindre unngåelig barnemishandling og pleie som finner sted på rekordnivå," Andy Burrows, leder for Child Safety Online i National Society for the Prevention of Cruelty to Children (NSPCC), fort alte Lifewire over e-post. «Hvis det blir godkjent, vil det stille et klart krav til plattformer for å bekjempe overgrep uansett hvor det finner sted, inkludert i private meldinger der barn er i størst risiko.»
End-to-End?
Forordningen søker å etablere nye regler for nettbaserte plattformer, samlet referert til som nettbaserte tjenesteleverandører, og dekker et bredt spekter av tjenester, inkludert appbutikker, webhotellselskaper og enhver leverandør av "mellommenneskelige kommunikasjonstjenester."
Det ene aspektet ved forslaget som har slått noen fjær blant personverngruppene, er forpliktelsene som vil gjelde for meldingstjenester som WhatsApp og Facebook Messenger.
I henhold til forslaget, hvis og når en meldingstjeneste mottar en "deteksjonsordre" fra EU, vil de bli bedt om å skanne de flaggede brukernes meldinger for å se etter bevis på CSAM og annen fornærmende atferd som involverer barn. I stedet for å ansette mennesker til oppgaven, krever forslaget bruk av maskinlæring (ML) og kunstig intelligens (AI)-verktøy for å lese gjennom samtalene.
Margaritis Schinas, visepresident for å fremme vår europeiske livsstil, påpekte at forslaget også krever å sette inn beskyttelsestiltak for å forhindre misbruk. "Vi snakker kun om et program som skanner etter markører for ulovlig innhold på samme måte som cybersikkerhetsprogrammer kjører konstante kontroller for sikkerhetsbrudd," bemerket Schinas i ECs kunngjøring.
Organisasjoner som jobber for å ivareta barn har gått ut for å støtte forslaget. "Dette banebrytende forslaget kan sette standarden for regulering som balanserer de grunnleggende rettighetene til alle internettbrukere samtidig som barnevern prioriteres," hevdet Burrows.
høygafler og fakler
Personvernforkjempere hevder imidlertid at forslaget effektivt fraråder bruk av ende-til-ende-kryptering.
"Ved å true selskaper med rettslige handlinger, prøver kommisjonen sannsynligvis å vaske hendene deres fra ansvaret for farlige og personverninngripende tiltak, mens de faktisk incentiverer disse tiltakene med loven," sa Ella Jakubowska, Policy. Rådgiver for Digital Advocacy Group European Digital Rights (EDRI) i en pressemelding.
br/
EDRI argumenterer for at tiltak i forslaget setter den vitale integriteten til sikker kommunikasjon i fare, og går så langt som å hevde at de nye reglene ville "tvinge selskaper til å gjøre våre digitale enheter om til potensielle deler av spionvare." Det tar også unntak fra bruken av AI-baserte skanneverktøy, og refererer til dem som "notorisk unøyaktige."
Dimitri Shelest, grunnlegger og administrerende direktør for OneRep, et nettbasert personvernselskap som hjelper folk med å fjerne sensitiv informasjon fra internett, er overbevist om at ingen offentlige eller sosiale medier-apper bør skanne brukernes private meldinger, selv ikke selektivt.
"Ved å legitimere denne typen overvåking, åpner vi Pandoras boks og skaper flere muligheter til å misbruke informasjonen som er innhentet som et resultat av slike personverninngrep," sa Shelest til Lifewire via e-post.
Jakubowska er enig. I pressemeldingen spør hun om selskaper i dag har lov til å skanne våre private meldinger, hva er det som hindrer regjeringer i å tvinge dem til å "søke etter bevis på dissidens eller politisk opposisjon i morgen?"
Men det hele kan gå til intet. Jesper Lund, styreformann IT-Pol Danmark mener at enkelte aspekter av forslaget kanskje ikke er implementerbare med det første.
"Forslaget inkluderer et krav til internettleverandører om å blokkere tilgang til spesifikke deler av innholdet på nettsider etter ordre fra nasjonale myndigheter," forklarte Lund i EDRis pressemelding. "Denne typen blokkering vil imidlertid være teknisk umulig med HTTPS, som nå brukes på nesten alle nettsider."
På spørsmål om personvernbrudd var den eneste måten å beskytte barn på nett, svarte Shelest med et tydelig «Nei». Han mener en reell brukbar løsning kombinerer foreldreengasjement med støtte fra teknologi, noe som kan hjelpe foreldre med å følge med på barnas aktiviteter på nettet.
"En god start ville være for teknologigiganter som Apple og Google å tilby bredere evner på sine plattformer som støtter foreldre med mer avansert automatisering," foreslo Shelest. «Nøkkelen er å støtte foreldre i å støtte barna sine.»
