Rapporter från framtiden Det första året med Chat Control

EU-lag tvingar Big Tech att ta itu med bilder på barn som utsätts för övergrepp - aktivist tar strid

Brussels — Förordningen om sexuella övergrepp mot barn trädde i kraft i dag i Europeiska Unionen. Lagen ses som ett sätt för EU att få en oväntad partner: de stora teknikföretag som de tidigare bötfälltt för att inte vara tillräckligt privata nog för användarna.

Branschens införande av end-to-end-krypterad meddelandeteknik gjorde det möjligt för företag och myndigheter att kommunicera digitalt med mindre oro för dataläckage. Den säkerheten kom med en kompromiss i form av ökade svårigheter för brottsbekämpande myndigheter att utreda potentiella brott.

End-to-end-kryptering fungerar delvis genom att avsändaren och mottagaren utbyter unika nycklar för att dekryptera varandras meddelanden. Det är möjligt att införa ytterligare en dekrypteringsnyckel för en tredje part, vilket skulle kunna göra det möjligt för brottsbekämpande myndigheter att läsa avlyssnade meddelanden. Utmaningen att säkra att ytterligare nycklar inte också används av motståndare har dock förhindrat att tekniken används.

EU-lagstiftarnas motstånd mot förslaget lättade när en annan teknisk implementering identifierades. Förordningen kräver att meddelandeappar verifierar att foton och videor inte innehåller sexuellt explicita bilder på barn innan de skickas krypterade. Apparna kan ladda upp okrypterad media tillfälligt till sina modereringsservrar eller använda maskininlärningsmodeller (AI) på enheten som tränats på olagligt innehåll som tidigare erhållits av brottsbekämpande myndigheter. Meddelandeappar måste skicka in nyligen identifierade bilder till brottsbekämpande myndigheter.

Över 100 människorättsorganisationer motsatte sig förslaget om ”chat control” innan det blev lag. Kritikerna lovade att ta kampen vidare till EU-domstolen för brott mot rätten till privatliv som garanteras i Europeiska unionens stadga om de grundläggande rättigheterna.

”Vid allmän skanning av kommunikation går det inte att undvika frekventa falska positiva resultat, även om träffsäkerheten är hög, vilket innebär att många oskyldiga personer blir inblandade. Med tanke på risken för sådana effekter kommer urskillningslös övervakning sannolikt att ha en betydande hämmande effekt på yttrande- och föreningsfriheten, vilket leder till att människor begränsar sina sätt att kommunicera och interagera med andra och ägnar sig åt självcensur” säger FN:s högkommissarie för mänskliga rättigheter.

”Denna förordning hanterar varje foto som vi delar med vänner som ett potentiellt bevis på vår skuld tills vi har bevisat vår oskuld bortom rimligt tvivel. Idag motiveras den statliga övervakningen av våra foton med barns säkerhet. I morgon kan skanningen utvidgas till att omfatta allt vi gör på våra enheter och motiveras av terrorism eller organiserad brottslighet” säger Jeremiah Lee, aktivist och mjukvaruutvecklare.

Den här berättelsen är fiktiv. Den publicerades aldrig av Reuters. Se ansvarsfriskrivning.

”Kommunikationskaos” för regeringstjänstemän när EU:s lag om Chat Control träder i kraft

Brussels — EU-kommissionen lyckades inte övertyga Signal Foundation om att fortsätta tillhandahålla tjänster till europeiska regeringsmedlemmar, säkerhetsorgan och militärer som är undantagna från förordningen om Chat Control.

Kommissionen rekommenderade 2020 att Signal skulle användas för kommunikation mellan personal och personer utanför institutionerna efter att tusentals diplomatkablar hade läckt ut olagligt. Kommissionen utvärderar nu en förgrening av open source-projektet och produkter som använder Matrix-protokollet, men räknar inte med att ha en ny rekommendation förrän om minst 6 månader.

Denna berättelse är fiktiv. Den släpptes aldrig av Reuters. Se ansvarsfriskrivning.

Nyhetsrum

• WhatsApp
• Messenger
• Instagram

Möjliggör säkrare chatt för alla

Menlo Park — Meta fortsätter sin investering i allmän säkerhet med branschledande AI för att exakt identifiera olagligt innehåll inom EU och rapportera överträdelser till brottsbekämpande myndigheter vid behov.

Att hålla unga människor säkra online har varit en utmaning sedan Internet började. I takt med att brottslingar utvecklar sin taktik måste vi också utveckla vårt försvar.

Vi har tränat AI med hjälp av miljontals nyanserade modereringsbeslut som fattats av människor. Nya regler gör det möjligt för oss att utöka detta skydd till bilder och videor som skickas krypterat mellan människor.

Spridningen av Child Sexual Abuse Material (CSAM) utmanar alla kommunikationsplattformar och kan inte lösas av ett enda företag. ”Meta välkomnar en mer aktiv roll från regeringar och tillsynsmyndigheter när det gäller att uppdatera reglerna för Internet, så att vi kan bevara det som är bäst med det - friheten för människor att uttrycka sig och för entreprenörer att bygga nya saker - samtidigt som vi skyddar samhället från bredare skador”, säger Mark Zuckerberg, Metas VD.

WhatsApp ansluter hundratals miljoner människor i Europeiska unionen och miljarder globalt. Människor gör fantastiska saker med våra plattformar och vi är fast beslutna att säkerställa en positiv upplevelse för alla.

Meta har investerat mer än 20 miljarder dollar sedan 2016 i förtroende- och säkerhetsinitiativ. ”Meta går utöver för att se till att det inte finns några delar av deras nätverk där denna typ av aktivitet inträffar”, säger National Center for Missing and Exploited Children.

Detta pressmeddelande är fiktivt. Det släpptes aldrig av Meta. Se ansvarsfriskrivning.

Den stora berättelsen

En tid efter integritetsskydd?
Inte på dessa nördars vakt.

I kölvattnet av EU:s omsvängning i integritetsfrågan har tredjepartsverktyg återställt säkerhetsfunktioner som med våld tagits bort från deras favoritmeddelandeappar, medan radikala nya appar strävar efter att vara regleringssäkra.

Ett år efter Chat Control debatterar EU:s lagstiftare den övervakningsnivå som krävs för ett säkrare samhälle

Brussels — EU:s förordning om sexuella övergrepp mot barn, vanligen kallad Chat Control, trädde i kraft för ett år sedan. Kritiker och förespråkare av förordningen är överens om dess begränsade framgång när det gäller att skydda barn. Nästa steg är fortfarande en splittrande debatt.

Rapporterna till polisen om misstänkta övergrepp i bild ökade med 600% under det senaste året när meddelandeapparna införde förordningens krav på automatisk rapportering av misstänkt innehåll. Ökningen av antalet rapporter om övergrepp resulterade inte i fler åtal eller fällande domar. Endast fyra åtalspunkter grundade sig på bevis som erhållits från den automatiska rapporteringen, och samtliga utredningar pågick redan innan de nya bevisen tillkom.

”Vi har blivit överväldigade av automatiserade rapporter. Vi har inte budget för att anställa och utbilda tillräckligt många personer för att snabbt kunna granska rapporterna. Det känns som om de sociala nätverken har outsourcat sitt modereringsproblem till regeringen”, säger en brottsbekämpande tjänsteman som vill vara anonym.

Det EU-center som övervakar förordningen medgav att de flesta rapporterna antingen var harmlösa, som semesterbilder på nakna barn som leker på en strand, eller en juridisk gråzon där tonåringar skickar intima, men samtyckande, bilder på sig själva.

Kritiker av Chat Control som anser att lagen gick för långt i att begränsa integriteten anger bristen på fler fällande domar som ett skäl att upphäva en missriktad lag, medan förespråkarna anger misslyckandet som ett bevis på att lagen inte gick tillräckligt långt i att hjälpa brottsbekämpningen.

”Brottsligheten rör sig snabbt och vi måste röra oss snabbare. Vi misstänker att brottslingar nu använder 'black bubble'-meddelandeappar för att undvika avlyssning”, säger en annan brottsbekämpande tjänsteman som vill vara anonym.

Meddelandeappar som använder peer-to-peer-teknik inspirerad av Tors ”dark web” blev kända som ”black bubble”-appar, en referens till Apples visuella behandling där meddelanden som skickas med iMessage visas med blå bakgrund och meddelanden som skickas med äldre SMS-teknik till Android-användare med grön bakgrund.

Medlemsländerna i EU:s ministerråd debatterade i förra veckan en utvidgning av övervakningsmöjligheterna till att omfatta mer än bara meddelandeappar och utredningar om övergrepp mot barn. Den uppdaterade förordningen, som först föreslogs under Sveriges ordförandeskap i EU våren 2023, skulle kunna kräva att programvaruleverantörer ger brottsbekämpande myndigheter tillgång till okrypterad användardata på begäran av en domstol.

Människorättsorganisationer motsatte sig förslaget och hänvisade till tekniska utmaningar med att implementera en sådan policy och farhågor om missbruk.

”Så kallad 'laglig tillgång enligt design' är 'osäkerhet enligt design'. Det finns inget sätt att lägga till en bakdörr till kryptering eller en tjallare på enheten för polisen som inte också kan utnyttjas av en fientlig stat eller kriminell hacker. Det här är inte en integritetsfetisch. Det är en teknisk realitet” säger Jeremiah Lee, som arbetar med dataintegritet.

Debatten om balansen mellan den mänskliga rättigheten till integritet och myndigheternas förmåga att skipa rättvisa för offren kommer sannolikt att fortsätta i generationer. För vissa är debatten en distraktion från att undersöka icke-tekniska lösningar på icke-tekniska problem.

”Vad vi talar om är en slags självförnekande paradox. Man kan inte bedriva massövervakning privat, punkt slut”, säger Meredith Whittaker, Signal President.

Den här berättelsen är fiktiv. Den publicerades aldrig av Reuters. Se ansvarsfriskrivning.