Dispacci dal futuro Il primo anno dopo Chat Control
Liberatoria
Questo esercizio di pensiero immagina le conseguenze per l'Unione Europea nel caso in cui sia accettata la proposta di scansione indiscriminata di tutte le foto ed i video mandati dalla popolazione per eventuali abusi su minori.
La proposta è reale, ma questo articolo è narrativa estrapolativa.
Le citazioni sono basate su dichiarazioni realmente avvenute ad opera delle persone attribuite, ma presentate al di fuori dei loro contesti originali. I quali contesti sono collegati ipertestualmente.
Gli applicativi futuristici sono inventati, ma basati su idee che stanno venendo esplorate attivamente.
Giorno 1
La legge europea inizia a costringere le Big Tech a contrastare il materiale visivo legato agli abusi su minori, un attivista prende la mira
Brussels — Il Regolamento sull'Abuso Sessuale di Minori (CSAR) è entrato ufficialmente in effetto quest'oggi nell'Unione Europea. La legge vede l'UE reclutare un partner insolito in questa lotta: le aziende del big tech che aveva precedentemente multato proprio per il loro non essere sufficientemente private.
L'adozione, da parte dell'industria del settore, di tecnologie di messaggistica crittografata end-to-end (E2EE) ha permesso ad aziende e governi di comunicare digitalmente con meno preoccupazioni inerenti le fughe di dati. La sicurezza venne però con un prezzo: la maggiore difficoltà nell'investigare potenziali crimini da parte delle forze di polizia.
La E2EE funziona in parte grazie allo scambio di chiavi univoche tra mittente e destinatario per decifrare i messaggi reciproci. L'introduzione di un'altra chiave di decodifica per una terza parte è possibile e permetterebbe alle forze di polizia di leggere i messaggi intercettati. Nonostante questo, l'impossibilità di garantire che queste chiavi aggiuntive non possano essere utilizzate da agenti avversari ha impedito l'utilizzo di questa tecnica.
L'opposizione dei legislatori dell'UE alla proposta è scemata a seguito dell'identificazione di una differente implementazione tecnica. Il regolamento sancisce che le applicazioni di messaggistica verifichino che le foto ed i video non contengano immagini sessualmente esplicite coinvolgenti minori, prima che esse vengano criptate ed inviate. Le app possono caricare l'oggetto mediale - non cifrato - temporaneamente sui loro server di moderazione, oppure utilizzare localmente modelli di apprendimento-macchina (IA) allenati su contenuti illegali precedentemente ottenuti dalle forze dell'ordine. Le app di messaggistica devono sottoporre le immagini identificate di recente alle forze di polizia.
Più di 100 organizzazioni per i diritti umani si sono opposte alla proposta del "chat control" prima che divenisse legge. I critici hanno deciso di portare la battaglia alla Corte Europea di Giustizia, per la violazione del diritto alla privacy, garantito dalla Carta dei Diritti Fondamentali dell'Unione Europea.
"Nella scansione generalizzata delle comunicazioni, non vi è modo di evitare i frequenti falsi positivi, anche qualora i tassi di accuratezza siano alti, coinvolgendo di conseguenza numerosi individui innocenti. Data la possibilità di un tale impatto, è probabile che la sorveglianza indiscriminata produca un significativo effetto di congelamento della libertà di espressione ed associazione, col rischio di giungere a situazioni dove le persone sentiranno la pressione di dover limitare i loro modi di comunicare ed interagire con gli altri ed iniziare delle attività di auto-censura", è stata la dichiarazione dell'Ufficio delle Nazioni Unite dall'Alto Commissario per i Diritti Umani.
"Questa normativa tratta ogni foto che condividiamo con amici come una potenziale prova della nostra colpevolezza fino a che possiamo provare la nostra innocenza oltre un ragionevole dubbio. Oggi, la sorveglianza di stato delle nostre foto viene giustificata dalla sicurezza dei minori. Domani, la scansione potrebbe espandersi ad ogni cosa che facciamo sui nostri dispositivi, con la giustificazione di terrorismo o di criminalità organizzata", ha detto l'attivista e sviluppatore di software Jeremiah Lee.
Questa storia è di finzione. Non è mai stata pubblicata da Reuters. Vedere la liberatoria.
Comunicato Stampa
Signal deve lasciare l'UE per rimanere sicuro
San Francisco — La fondazione Signal oggi ha discontinuato il servizio dell'app di messaggistica Signal all'interno degli stati membri dell'Unione Europea con profondo rammarico.
Signal aveva avvertito i legislatori europei che forzarli a minare le loro garanzie sulla privacy avrebbe portato all'uscita della piattaforma dal mercato europeo.
"Non c'è nessun modo di implementare lo CSAR europeo nel contesto della comunicazione crittografata E2E senza andare a minare la tecnologia di cifrazione alle sue fondamenta e creare una pericolosa vulnerabilità nella infrastruttura che ne sta al cuore, cosa che avrebbe implicazioni globali molto oltre la situazione europea", ha dichiarato Meredith Whittaker, presidentessa della Fondazione Signal.
I profili utente registrati da numeri di telefono con prefissi interni ai confini europei non possono più inviare o ricevere messaggi usando Signal. L'app non è più disponibile per lo scaricamento dall'App Store di Apple e dal Play Store di Google per tutte le persone con indirizzi di fatturazione interni all'UE. Le installazioni esistenti continueranno a provvedere l'accesso ai messaggi mandati precedentemente, ma non verrà più fornito alcun aggiornamento.
Questo comunicato stampa è finzione. Non è mai stata rilasciato da Signal. Vedere la liberatoria.
"Caos della comunicazione" per gli ufficiali di governo mentre la legge sul controllo delle chat europea entra in vigore
Brussels — Le negoziazioni notturne guidate dalla Commissione Europea hanno fallito nel convincere la Fondazione Signal a continuare l'erogare del suo servizio ai membri del governo europei, alle agenzie di sorveglianza e militari esentate dal regolamento di scansione "chat control".
La Commissione raccomandò l'uso di Signal per le comunicazioni interne allo staff ed alle persone esterne l'istituzione nel 2020 dopo che migliaia di comunicazioni diplomatiche furono accedute illegalmente. Al momento si sta valutando la possibilità di derivare (forkare) dal progetto a sorgente aperta (open source) e i prodotti utilizzando il protocollo Matrix, ma una nuova raccomandazione non potrà giungere prima del prossimo semestre.
Questa storia è di finzione. Non è mai stata pubblicata da Reuters. Vedere la liberatoria.
Comunicato Stampa
Apple annuncia nuove e potenti funzionalità di sicurezza
Cupertino, California — Apple oggi ha introdotto nuove misure di sicurezza per minori nell'app Messaggi. Un sistema di apprendimento-macchina in locale rileverà, segnalerà e rimuoverà contenuti che ritraggono attività sessualmente esplicite coinvolgenti minori. Apple è stata pioniere di questa funzionalità nel 2021 ed è ora in grado di portare questa innovazione sul mercato con il supporto dei governi intenzionati alla protezione dei minori.
Le funzionalità Sicurezza Comunicativa di Apple e l'architettura Analisi di Contenuto Sensibile sono sviluppate con la privacy dell'utente al centro. Invece che scansionare le immagini nella nuvola (cloud), il sistema esegue un rilevamento su dispositivo da una base dati di immagini illegali note fornite dal Centro Nazionale per la Scomparsa e lo Sfruttamento dei Minori (NCMEC) e altre organizzazioni per la sicurezza dei minori. Questo abilita Apple a segnalare queste istanze agli enti delle forze di polizia.
Continueremo a lavorare insieme ai governi, ai difensori di minori e ad altri enti per aiutare a proteggere le persone giovani, preservare il loro diritto alla privacy e rendere l'internet un posto più sicuro per i bambini e per tutti noi.
Questo comunicato stampa è finzione. Non è mai stata rilasciato da Apple. Vedere la liberatoria.
Newsroom
- Messenger
Consentire un'Esperienza di Chat più Sicura per Tutti
Menlo Park — Meta continua il suo investimento nella sicurezza pubblica con IA leader nel settore per identificare accuratamente contenuti illegali nei confini europei e segnalare violazioni alle forze dell'ordine quando necessario.
Mantenere i giovani al sicuro sulla rete è stata una sfida fin dagli inizi di Internet. Così come i criminali sviluppano le loro strategie, anche noi dobbiamo adattare le nostre difese.
Abbiamo allenato l'IA utilizzando milioni di sfumature decisionali nella moderazione, compiute da esseri umani. Il nuovo regolamento ci permette di estendere questa protezione alle immagini ed ai video inviati crittografati tra le persone.
La diffusione di Materiale di Abuso Sessuale su Minori (CSAM) mette alla prova tutte le piattaforme di comunicazione e non può essere risolta da una singola azienda. "Meta accoglie un ruolo più attivo da parte dei governi e degli enti regolatori nell'aggiornare le regole per l'Internet, così che possiamo preservare ciò che ne è la parte migliore - la libertà per le persone di esprimere loro stesse e per gli imprenditori di construire nuove cose - e nel contempo proteggere la società da mali più ampi" ha dichiarato Mark Zuckerberg, CEO di Meta.
WhatsApp connette centinaia di milioni di persone nell'Unione Europea e miliardi globalmente. Le persone fanno cose stupefacenti con le nostre piattaforme e siamo impegnati a garantire un'esperienza positiva per tutti.
Meta ha investito più di 20 miliardi di dollari dal 2016 in iniziative di fiducia e sicurezza. "Meta fa sempre più del necessario per assicurarsi che non ci siano porzioni della loro rete dove si verifichino questo tipo di attività" ha dichiarato il NCMEC.
Questo comunicato stampa è finzione. Non è mai stata rilasciato da Meta. Vedere la liberatoria.
Giorno 83
Distopični Časi
Polizia scagiona madre del luogo dalle accuse di pedofilia
Ljubljana (Reuters) — Una neomamma sostiene che il recentemente promulgato CSAR abbia causato danni irreparabili alla sua reputazione dopo che WhatsApp ha contrassegnato delle foto che ha inviato.
La polizia ha fatto irruzione nella casa di Melody Bostic in Ljubljana, settimane dopo che questa ha inviato foto dell'eritema da pannolino della sua neonata a sua madre. Bostic, ventunenne, ha cercato consiglio riguardo l'urgenza del problema di salute.
"Mi preoccupo costantemente di fare la cosa sbagliata per la mia bimba. Non posso portarla dalla dottoressa ogni volta che sospetto che ci sia qualcosa che non va. Non avrei mai immaginato che la polizia si sarebbe presentata a casa mia, avrebbe preso il mio telefono e non se ne sarebbe andata fino a quando non ho dato loro il mio PIN per perquisire tutte le mio foto", ha detto Bostic.
Una portavoce dell'agenzia di polizia ha confermato che la ricerca della Bostic è avvenuta e che non sono state intentate accuse. Le conseguenze dell'investigazione però continuano a pesare sulla Bostic. "Anche se è stato provato che sono innocente, i miei vicini ancora mi evitano. Hanno visto i lampeggianti della polizia di fronte alla mia casa per ore".
La madre di Bostic ha dichiarato: "Una volta che vieni accusata di qualcosa di orribile, è difficile per le persone non essere sospettose nei tuoi confronti. I Dieci Comandamenti ci dissero di non pronunciare falsa testimonianza contro il nostro prossimo, ma per quanto riguarda le app? Anche loro non dovrebbero testimoniare il falso. Mia figlia sta venendo punita per la loro falsità. Come può essere giusto?"
Meta ha rifiutato di commentare citando una polizza di non discussione sulle situazioni dei singoli utenti.
Questa storia è di finzione. Non è mai stata pubblicata da Reuters. Vedere la liberatoria.
Giorno 203
L'era della post-riservatezza?
Non durante il turno di questi geek.
Sulla scia dell'inversione di rotta europea in merito alla privacy, strumenti di terzi hanno ripristinato le caratteristiche di sicurezza forzatamente rimosse dalle loro applicazioni di messaggistica preferite, mentre radicali nuove app aspirano ad essere a prova di normativa.
I client di WhatsApp di parti terze non sono cosa nuova, ma la loro popolarità sì. Le sviluppatrici di WasÄpp stimano che un quarto della popolazione europea di WhatsApp la stia ora usando (Was è tedesco per what/cosa). WasÄpp si mostra e funziona in maniera quasi identica a WhatsApp. La sua popolarità viene dall'unica caratteristica che gli manca e dall'una che aggiunge.
Lo CSAR europeo ha obbligato le app di messaggistica a passare in rassegna tutte le immagini ed i video per contenuti illegali mandati usando i loro servizi. WasÄpp aggira la normativa europea non fornendo un servizio - è solo un app che usa il servizio di WhatsApp - ed utilizzando solamente testo per condividere contenuti mediali. Le legislatrici hanno escluso il testo dalla revisione in quella che è stata annunciata come una concessione chiave sul piano della privacy.
Invece che applicare l'oggetto mediale ad un messaggio, WasÄpp cripta l'oggetto e lo carica sul Google Drive, Dropbox o altro provider di servizio di archiviazione sulla nuvola della mittente. WasÄpp quindi manda il collegamento al file e la chiave di decodifica sotto forma di testo alla destinataria. Il WasÄpp della destinataria identifica il collegamento per la condivisione nel messaggio di testo e scarica e decifra automaticamente l'immagine.
Una volta allestita, le utenti non si accorgono dell'automazione che WasÄpp fa dietro le quinte. L'esperienza utente è esattamente come utilizzare WhatsApp prima del regolamento di chat control - e quello è il punto. Salvo che l'UE renda illegale la cifratura dei propri dati, non c'è molto che possa fare per fermare questo escamotage.
Una nuova classe di applicazioni non sta aspettando di rispondere difensivamente. Essere ingovernabile è un obiettivo di design esplicito per ValidChat, Wallow Messenger e Freebirdnet Chat. Ognuna di esse offre una esperienza utente di messaggistica convenzionale, distinta da decisioni a livello di architettura del software intese a sfidare Brussels.
In primis, il loro codice è a sorgente aperta. Chiunque può scaricare, modificare e distribuire le apps. In secondo luogo, le apps funzionano tramite browser, quindi non dipendono dai negozi di app di Apple o Google per la distribuzione. In ultimo, le app usano tecnologia da-pari-a-pari per rilanciare i messaggi in maniera sicura ed anonima senza usare server centralizzati.
"Abbiamo preso le idee dalla tecnica di anonimizzazione dei browser di rete Tor, le abbiamo migliorate e applicate alla messaggistica", ha dichiarato unx membro del leggendario gruppo di hacktivismo il Culto dell'Unicorno Vivente, che contribuisce allo sviluppo di ValidChat nei ritagli di tempo.
Senza organizzazione centrale, senza dipendenze da serventi, senza punti di strozzamento della distribuzione e con l'uso camuffato da tipica attività Internet, c'è molto poco che i regolatori UE possano fare per impedire agli europei di avere chat E2EE veramente private di nuovo.
Quando richiesto se fossero infastidite dall'utilizzo del loro software da parte di criminali, una sviluppatrice di Wallow Messenger ha dichiarato: "il danno a queste vittime non dovrebbe essere ignorato. Loro meritano giustizia. Non possiamo, tuttavia, rimuovere l'umanamente fondamentale diritto alla riservatezza per ognuna nella società perché una piccola percentuale di persone intraprende questo genere di attività".
Questa storia è di finzione. Non è mai stata pubblicata da Wired. Vedere la liberatoria.
Giorno 365
Un anno dopo Chat Control, i legislatori europei dibattono sul livello di sorveglianza necessario per una società più sicura
Brussels — Lo CSAR europeo, comunemente conosciuto come "chat control", è entrato in vigore un anno fa. I critici ed i proponenti/propositori del regolamento concordano sul suo limitato successo nella protezione dei minori. Il passo successivo rimane un dibattito divisorio.
Le segnalazioni alle forze di polizia di ?immagini sospettate di abuso sono aumentate del 600% nell'ultimo anno quando le applicazioni di messaggistica hanno implementato i sistemi di segnalazione automatica di contenuti sospetti imposti dal regolamento. L'aumento nelle segnalazioni di abuso non ha prodotto un aumento dei capi di accusa (?) o delle incriminazioni. Solo quattro imputazioni criminali hanno fatto uso di prove ottenute dalle segnalazioni automatiche e tutte le investigazioni erano già state avviate precedentemente alla creazione delle prove aggiuntive.
"Siamo stati sommersi di segnalazioni automatiche. Non abbiamo fondi sufficienti per assumere e formare abbastanza personale per revisionare le segnalazioni rapidamente. L'impressione è che le piattaforme social abbiano scaricato il barile al governo", ha affermato un ufficiale delle forze di polizia che ha chiesto di restare anonimo.
Il Centro europeo responsabile del regolamento ha ammesso che la maggioranza delle segnalazioni sono state o innocue, come ad esempio foto delle vacanze di bambini nudi che giocano in spiaggia, o un'area legale grigia di soggetti adolescenti scambianti immagini intime di loro stessi, ma consensuali.
I critici del chat control che sentono che la legge sia andata troppo oltre nella restrizione della privacy citano il non incremento delle condanne come ragione per respingere una legge malconsigliata(?), mentre i propositori citano il fallimento come prova che la legge non sia stata sufficientemente aggressiva nell'aiutare le forze di polizia.
"Il crimine si muove veloce e noi dobbiamo essere ancora più rapidi. Sospettiamo che i criminali ora utilizzino le applicazioni di messaggistica della 'bolla nera' per evitare intercettamenti", ha affermato un altro ufficiale delle forze di polizia protetto dall'anonimato.
Le applicazioni di messaggistica che implementano tecnologia peer-to-peer (p2p) ispirate dal "dark web" del protocollo Tor sono conosciute come app della "bolla nera", con riferimento al trattamento visivo di Apple che distingue i messaggi inviati con iMessage con sfondo blu da quelli inviati con la vecchia tecnologia SMS verso gli utenti Android a sfondo verde.
Gli stati membri del Consiglio europeo la scorsa settimana hanno dibattuto un'espansione delle capacità di sorveglianza che vada oltre le app di messaggistica e le investigazioni su abuso di minore. Proposta dapprima durante la presidenza UE svedese nel 2023, il regolamento aggiornato potrebbe imporre ai distributori di servizi software consentire alle forze di polizia di accedere ai dati degli utenti non cifrati su ordine di una giurisdizione.
Le organizzazioni per i diritti umani di sono opposte alla proposta, citando le problematiche tecniche nell'implementazione di una tale politica ed esprimendo preoccupazione per gli eventuali abusi.
"Il cosiddetto 'accesso legale da design' è 'insicurezza da design'. È impossibile aggiungere un accesso nascosto alla cifratura o una cimice su dispositivo per la polizia che non possa anche essere potenzialmente sfruttata da una nazione-stato ostile o un hacker criminale. Questo non è un fetich per la privacy. È una realtà tecnica", ha affermato Jeremiah Lee, un ingegnere di privacy dei dati.
Il dibattito sull'equilibrio tra l'umano diritto alla riservatezza e la capacità del governo di garantire giustizia alle vittime continuerà probabilmente per generazioni. Per alcune, il dibattito è una distrazione dall'investigazione di soluzioni non tecniche a problemi di natura non tecnica.
"Ciò di cui stiamo parlando è un tipo di paradosso ?auto-annullante. Non puoi fare sorveglianza di massa in maniera privata, punto", ha detto Meredith Whittaker, Presidentessa di Signal.
Questa storia è di finzione. Non è mai stata pubblicata da Reuters. Vedere la liberatoria.
Poscritto
Attivatevi/agite/intervenite se questo non è il futuro in cui volete vivere.
Scrivete ai vostri membri del Parlamento Europeo, alla rappresentazione permanente del vostro Paese nel Consiglio Europeo ed alla vostra leadership(?) per esprimere la vostra opposizione al "chat control". Dopodiché, votate di conseguenza.
Donate all'associazione per i Diritti Digitali Europea (EDRi) ed alle organizzazioni per i diritti digitali del vostro Paese.
Usate Signal per comunicare con le vostre amicizie e famiglie. Donate per sostenerlo.
Ulteriori letture
Crediti
Scritto, disegnato e programmato da
Jeremiah Lee
Un ringraziamento speciale a
Jonathan Cowperthwait
Marcel Waldvogel
Questa traduzione e localizzazione è stata fatta con ❤️ da esseri umani:
Head of translation: qyd0ro
Puoi aiutare a tradurre questo in Francese, Olandese, Vlaams, Esperanto o un'altra lingua? Contattami!
I loghi ed i nomi delle aziende sono registrazioni commerciali dei loro rispettivi proprietari. Usati pro uso equo ai fini dell'investigazione giornalistica e critica culturale, recensione, caricatura e parodia.
Software a sorgente aperto utilizzato:
Hero Icons (MIT license), Monaspace Krypton (SIL Open Font License 1.1), Old Standard TT (SIL Open Font License 1.1), Tailwind CSS (MIT license)
Immagine dai comunicati stampa di Meta da Meta Newsroom Meta Newsroom
Headlines from the first year of Chat Control di Jeremiah Lee e la traduzione sono concessi in licenza CC BY 4.0
