Despachos desde el futuro El primer año de Chat Control
Descargo de responsabilidad
Este ejercicio de reflexión imagina las consecuencias de que la Unión Europea apruebe una propuesta para escanear todas las fotos y vídeos enviados por la gente en busca de posibles abusos a menores.
La propuesta es real, pero este artículo es ficción extrapolativa.
Las citas se basan en declaraciones reales de la persona a la que se atribuyen, pero se presentan fuera de su contexto original. Los contextos originales están enlazados.
Las aplicaciones futuristas son inventadas, pero se basan en ideas que se están explorando activamente.
Día 1
La Nueva legislación de la UE empieza a obligar a las grandes tecnológicas a luchar contra las imágenes de abusos sexuales a menores, ante la oposición de activistas
Brussels — El Reglamento sobre abuso sexual infantil ha entrado hoy en vigor en la Unión Europea. Con esta ley, la UE cuenta con un socio inesperado: las grandes empresas tecnológicas a las que ya había multado anteriormente por no ser suficientemente privadas.
La adopción por la industria de la tecnología de mensajería cifrada de extremo a extremo permitió a empresas y gobiernos comunicarse digitalmente con menos preocupación por las filtraciones de datos. La seguridad tuvo como contrapartida una mayor dificultad para las fuerzas de seguridad a la hora de investigar posibles delitos.
El cifrado de extremo a extremo funciona en parte mediante el intercambio de claves únicas entre el remitente y el destinatario para descifrar sus mensajes. Introducir una clave de descifrado adicional para un tercero es posible y podría permitir a las fuerzas de seguridad leer los mensajes interceptados. Sin embargo, el reto de garantizar que las claves adicionales no sean utilizadas también por los adversarios ha impedido el uso de esta técnica.
La oposición de los legisladores de la UE a la propuesta se relajó cuando se identificó una aplicación técnica diferente. La normativa exige que las aplicaciones de mensajería comprueben que las fotos y vídeos no contienen imágenes sexualmente explícitas de menores antes de enviarlos cifrados. Las aplicaciones pueden subir temporalmente los contenidos sin cifrar a sus servidores de moderación o utilizar modelos de aprendizaje automático (IA) en el dispositivo, entrenados con contenidos ilegales obtenidos previamente por las fuerzas de seguridad. Las aplicaciones de mensajería deben enviar las imágenes recién identificadas a las fuerzas de seguridad.
Más de 100 organizaciones de derechos humanos se opusieron a la propuesta de «control del chat» antes de que se convirtiera en ley. Los críticos prometieron llevar la lucha ante el Tribunal de Justicia Europeo por violar el derecho a la intimidad garantizado por la Carta de los Derechos Fundamentales de la Unión Europea.
«En el escaneo general de las comunicaciones no pueden evitarse frecuentes falsos positivos, aunque los índices de precisión sean elevados, implicando así a numerosas personas inocentes. Dada la posibilidad de que se produzcan estos efectos, es probable que la vigilancia indiscriminada tenga un importante efecto amedrentador sobre la libertad de expresión y asociación, y que las personas limiten sus formas de comunicarse e interactuar con los demás y se autocensuren», ha declarado la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos.
«Esta normativa trata cada foto que compartimos como una prueba potencial de nuestra culpabilidad hasta que se demuestre nuestra inocencia. Hoy, la vigilancia estatal de nuestras fotos se justifica por la seguridad de los niños. Mañana, el escaneo podría ampliarse a todo lo que hacemos en nuestros dispositivos justificado por el terrorismo o el crimen organizado», dijo el activista y desarrollador de software Jeremiah Lee.
Esta historia es ficticia. Nunca fue publicada por Reuters. Véase el descargo de responsabilidad.
Comunicado de prensa
Signal debe abandonar la UE para seguir siendo segura
San Francisco — La Signal Foundation ha interrumpido hoy el servicio de la aplicación de mensajería Signal en los Estados miembros de la Unión Europea, lamentándolo profundamente.
Signal advirtió a los legisladores de la UE que obligarla a socavar sus garantías de privacidad supondría su salida del mercado de la UE.
«No hay manera de aplicar el Reglamento de la UE sobre abuso sexual infantil en el contexto de las comunicaciones cifradas de extremo a extremo sin socavar fundamentalmente el cifrado y crear una peligrosa vulnerabilidad en la infraestructura básica que tendría implicaciones globales mucho más allá de Europa», dijo Meredith Whittaker, presidenta de Signal.
Las cuentas de usuario registradas con números de teléfono con códigos de país dentro de la UE ya no pueden enviar ni recibir mensajes utilizando Signal.La aplicación ya no está disponible para su descarga desde Apple App Store y Google Play Store para las personas con direcciones de facturación dentro de la UE.Las instalaciones existentes seguirán proporcionando acceso a los mensajes enviados anteriormente, pero no se proporcionarán más actualizaciones.
Esta historia es ficticia. Nunca fue publicada por Signal. Véase el descargo de responsabilidad.
«Caos de comunicaciones» para los funcionarios de la UE al entrar en vigor la ley de control del chat
Brussels — Las negociaciones de medianoche lideradas por la Comisión Europea no lograron convencer a la Fundación Signal para que siguiera prestando servicio a los miembros europeos del gobierno, agencias de seguridad y militares exentos de la normativa de escaneo de control de chats.
La Comisión recomendó el uso de Signal para la comunicación entre el personal y personas ajenas a la institución en 2020, después de que se accediera ilegalmente a miles de cables diplomáticos. Ahora está evaluando bifurcar el proyecto de código abierto y los productos que utilizan el protocolo Matrix, pero no espera tener una nueva recomendación hasta dentro de al menos 6 meses.
Esta historia es ficticia. Nunca fue publicada por Reuters. Véase el descargo de responsabilidad.
Comunicado de prensa
Apple anuncia nuevas y potentes funciones de seguridad
Cupertino, California — Apple ha presentado hoy nuevas funciones de seguridad infantil en la app Mensajes. El aprendizaje automático en el dispositivo detectará, informará y eliminará contenido que muestre actividades sexualmente explícitas en las que esté involucrado un niño.Apple fue pionera en esta capacidad en 2021 y ahora puede llevar la innovación al mercado con el apoyo de gobiernos dispuestos a proteger a los niños.
La función de seguridad de las comunicaciones de Apple y el marco de análisis de contenido sensible están diseñados teniendo en cuenta la privacidad del usuario. En lugar de escanear imágenes en la nube, el sistema realiza la detección en el dispositivo a partir de una base de datos de imágenes ilegales conocidas proporcionada por el Centro Nacional para Menores Desaparecidos y Explotados (NCMEC) y otras organizaciones de seguridad infantil. Esto permite a Apple informar de estos casos a las fuerzas de seguridad.
Seguiremos trabajando con gobiernos, defensores de la infancia y otras empresas para ayudar a proteger a los jóvenes, preservar su derecho a la intimidad y hacer de Internet un lugar más seguro para los niños y para todos nosotros.
Esta historia es ficticia. Nunca fue publicada por Apple. Véase el descargo de responsabilidad.
Newsroom
- Messenger
Un chat más seguro para todos
Menlo Park — Meta continúa su inversión en seguridad pública con una IA líder en el sector para identificar con precisión los contenidos ilegales dentro de la UE e informar de las infracciones a las fuerzas de seguridad según sea necesario.
Mantener la seguridad de los jóvenes en línea ha sido un reto desde los inicios de Internet.
A medida que los delincuentes evolucionan sus tácticas, nosotros tenemos que evolucionar también nuestras defensas.Hemos entrenado a la IA utilizando millones de decisiones de moderación matizadas tomadas por humanos. La nueva normativa nos permite ampliar esta protección a las imágenes y vídeos que se envían encriptados entre personas.
La propagación de Material de Abuso Sexual Infantil (CSAM, por sus siglas en inglés) desafía a todas las plataformas de comunicación y no puede ser resuelto por una sola empresa. «Meta acoge con satisfacción un papel más activo por parte de los gobiernos y los reguladores en la actualización de las normas de Internet, para que podamos preservar lo mejor de ella -la libertad de las personas para expresarse y de los emprendedores para construir cosas nuevas- y al mismo tiempo proteger a la sociedad de daños más amplios», dijo Mark Zuckerberg, CEO de Meta.
WhatsApp conecta a cientos de millones de personas en la Unión Europea y a miles de millones en todo el mundo. La gente hace cosas increíbles con nuestras plataformas y nos comprometemos a garantizar una experiencia positiva para todos».
Meta ha invertido más de 20.000 millones desde 2016 en iniciativas de confianza y seguridad. «Meta va más allá para asegurarse de que no haya porciones de su red donde ocurra este tipo de actividad», dijo el Centro Nacional para Niños Desaparecidos y Explotados de los Estados Unidos.
Esta historia es ficticia. Nunca fue publicada por Meta. Véase el descargo de responsabilidad.
Día 83
Distopični Časi
La policía exculpa a una madre local de una acusación de pederastia
Ljubljana (Reuters) — Una madre primeriza afirma que la recién promulgada Normativa sobre Abuso Sexual Infantil causó un daño irreparable a su reputación después de que WhatsApp marcara las fotos que envió.
La policía registró el domicilio de Melody Bostic en Liubliana semanas después de que enviara fotos de la dermatitis por pañal de su recién nacido a su madre. Bostic, de 21 años, pidió consejo sobre la urgencia del problema de salud.
«Me preocupa constantemente hacer lo incorrecto por mi bebé.No puedo llevarla al médico cada vez que sospecho que algo va mal. Nunca imaginé que la policía se presentaría en mi casa, se llevaría mi teléfono y no se iría hasta que les diera mi código de acceso para buscar entre todas mis fotos», declaró Bostic.
Un portavoz de las fuerzas del orden confirmó que se había registrado a Bostic y que no se habían presentado cargos. Las consecuencias de la investigación persisten para Bostic. «Aunque se demostró mi inocencia, mis vecinos siguen evitándome. Vieron las luces intermitentes de los coches de policía frente a mi casa durante horas».
La madre de Bostic dijo: «Una vez que te acusan de algo horrible, es difícil que la gente no sospeche de ti. Los Diez Mandamientos nos decían que no diéramos falso testimonio contra nuestros vecinos, pero ¿y las apps? Tampoco deberían dar falso testimonio. Mi hija está siendo castigada por su mentira. ¿No es justo?».
Meta declinó hacer comentarios citando una política de no discutir situaciones de usuarios individuales.
Esta historia es ficticia. Nunca fue publicada por Reuters. Véase el descargo de responsabilidad.
Día 203
¿La era de la privacidad?
No bajo la mirada de estos geeks.
Tras el revés de la UE en materia de privacidad, las herramientas de terceros han restaurado las funciones de seguridad eliminadas a la fuerza de sus aplicaciones de mensajería favoritas, mientras que nuevas aplicaciones radicales aspiran a ser a prueba de normativas.
Los clientes de WhatsApp de terceros no son nuevos, pero sí su popularidad. Los desarrolladores de WasÄpp calculan que una cuarta parte de los usuarios europeos de WhatsApp ya lo utilizan. (Was significa what en alemán.) WasÄpp tiene un aspecto y un funcionamiento casi idénticos a los de WhatsApp. Su popularidad se debe a la única función de la que carece y a la única que añade.
La normativa de la UE sobre abusos sexuales a menores obligaba a las aplicaciones de mensajería a revisar todas las imágenes y vídeos enviados a través de sus servicios para detectar contenidos ilegales. WasÄpp elude la normativa de la UE no proporcionando servicio -es sólo una aplicación que utiliza el servicio de WhatsApp- y utilizando sólo texto para compartir contenido multimedia. Los legisladores eximieron el texto de la revisión en lo que se consideró una concesión clave a la privacidad.
En lugar de adjuntar archivos multimedia a un mensaje, WasÄpp cifra los archivos y los sube a Google Drive, Dropbox u otro proveedor de servicios de almacenamiento en la nube del remitente. WasÄpp envía entonces un enlace al archivo y la clave de descifrado como texto al destinatario. El WasÄpp del destinatario identifica el enlace compartido en el mensaje de texto y automáticamente descarga y descifra la imagen.
Una vez configurado, los usuarios no notan la automatización que WasÄpp realiza entre bastidores. La experiencia de usuario es exactamente igual a la de WhatsApp antes de la regulación del control del chat, y de eso se trata. A menos que la UE prohíba cifrar tus propios datos, no hay mucho que pueda hacer para detener esta solución.
Una nueva clase de aplicaciones no espera responder a la defensiva. Ser ingobernable es un objetivo explícito del diseño de ValidChat, Wallow Messenger y Freebirdnet Chat.Cada una de ellas ofrece una experiencia de usuario de aplicación de mensajería convencional que se distingue por decisiones de arquitectura de software destinadas a desafiar a Brussels.
En primer lugar, su código es abierto. Cualquiera puede descargar, modificar y distribuir las aplicaciones.En segundo lugar, las aplicaciones se ejecutan en un navegador web, por lo que no dependen de las tiendas de aplicaciones de Apple o Google para su distribución. En tercer lugar, las aplicaciones utilizan la tecnología peer-to-peer para transmitir mensajes de forma segura y anónima sin utilizar servidores centralizados.
Sin organización central, sin dependencia de servidores, sin punto de estrangulamiento de la distribución y con un uso camuflado como actividad típica de Internet, poco pueden hacer los reguladores de la UE para impedir que los europeos vuelvan a tener un chat cifrado de extremo a extremo realmente privado.
Sin organización central, sin dependencia de servidores, sin punto de estrangulamiento de la distribución y con un uso camuflado como actividad típica de Internet, poco pueden hacer los reguladores de la UE para impedir que los europeos vuelvan a tener un chat cifrado de extremo a extremo realmente privado
Cuando se le preguntó si les molestaba que los delincuentes utilizaran su software, un desarrollador de Wallow Messenger dijo: «No se debe ignorar el daño que sufren estas víctimas. Merecen justicia.Sin embargo, no podemos eliminar el derecho humano fundamental a la privacidad para todos en la sociedad porque un pequeño porcentaje de personas se dedique a estas actividades.
Esta historia es ficticia. Nunca fue publicada por Wired. Véase el descargo de responsabilidad.
Día 365
Un año después del control del chat, los legisladores de la UE debaten el nivel de vigilancia necesario para una sociedad más segura
Brussels — Hace un año que entró en vigor el Reglamento de la Unión Europea contra el abuso sexual infantil, conocido comúnmente como control del chat. Críticos y defensores del Reglamento coinciden en su escaso éxito en la protección de los menores.El siguiente paso sigue siendo un debate controvertido.
Las denuncias a las fuerzas de seguridad de imágenes de presuntos abusos aumentaron un 600% en el último año, cuando las aplicaciones de mensajería pusieron en marcha la notificación automática de contenidos sospechosos que exige el Reglamento. El aumento de las denuncias de abusos no se tradujo en un aumento de los cargos o condenas. Sólo cuatro cargos penales se basaron en pruebas obtenidas a partir de las notificaciones automáticas, y todas las investigaciones estaban en curso antes de que se obtuvieran las pruebas adicionales.
«Estamos desbordados de informes automatizados. No tenemos presupuesto para contratar y formar al personal suficiente para revisar los informes con rapidez. Parece como si las redes sociales acabaran de externalizar su problema de moderación al gobierno», dijo un agente de la ley que solicitó permanecer anónimo.
El Centro de la UE que supervisa la normativa admitió que la mayoría de las denuncias eran inofensivas, como fotos de vacaciones de niños desnudos jugando en una playa, o una zona gris legal de adolescentes que envían fotos íntimas, pero consentidas, de sí mismos.
Los detractores del control del chat que consideran que la ley fue demasiado lejos en la restricción de la privacidad citan la falta de aumento de condenas como razón para derogar una ley equivocada, mientras que los defensores citan el fracaso como prueba de que la ley no fue lo suficientemente lejos en la ayuda a la aplicación de la ley.
«La delincuencia se mueve rápido y nosotros debemos movernos más rápido. Sospechamos que los delincuentes utilizan ahora aplicaciones de mensajería de 'burbuja negra' para evitar ser interceptados», declaró otro agente de las fuerzas del orden que pidió el anonimato.
Las aplicaciones de mensajería que utilizan la tecnología peer-to-peer inspirada en la «red oscura» de Tor pasaron a conocerse como aplicaciones de «burbuja negra», en referencia al tratamiento visual de Apple de mostrar los mensajes enviados mediante iMessage con un fondo azul y los mensajes enviados mediante la antigua tecnología SMS a usuarios de Android con un fondo verde. Los Estados miembros debatieron la semana pasada en el Consejo de la UE una ampliación de las capacidades de vigilancia más allá de las aplicaciones de mensajería y las investigaciones de abusos a menores.
Propuesta por primera vez durante la Presidencia sueca de la UE en la primavera de 2023, la normativa actualizada podría obligar a los proveedores de servicios de software a dar a las fuerzas de seguridad acceso a los datos no cifrados de los usuarios cuando lo ordene un órgano judicial.
Las organizaciones de derechos humanos se opusieron a la propuesta, citando las dificultades técnicas para aplicar una política de este tipo y la preocupación por los abusos.
«El llamado 'acceso legal por diseño' es 'inseguridad por diseño'. No hay manera de añadir una puerta trasera de acceso al cifrado o un chivato en el dispositivo para la policía que no pueda también ser potencialmente explotado por un Estado nación hostil o un hacker criminal. No se trata de un fetiche de la privacidad. Es una realidad técnica», afirma Jeremiah Lee, ingeniero especializado en privacidad de datos.
Es probable que el debate sobre el equilibrio entre el derecho humano a la privacidad y la capacidad del gobierno para hacer justicia a las víctimas continúe durante generaciones. Para algunos, el debate es una distracción de la investigación de soluciones no técnicas a problemas no técnicos.
«De lo que estamos hablando es de una especie de paradoja que se niega a sí misma. No se puede hacer vigilancia masiva en privado, y punto», dijo Meredith Whittaker, Presidenta de Signal.
Esta historia es ficticia. Nunca fue publicada por Reuters. Véase el descargo de responsabilidad.
Postdata
Actúa si este no es el futuro en el que quieres vivir.
Escribe a tus diputados del Parlamento Europeo, a la representación permanente de tu país en el Consejo Europeo y a los dirigentes de tu país para expresar tu oposición al control del chat. Después, vota en consecuencia.
Haz un donativo a European Digital Rights (EDRi) y a la organización de derechos digitales de tu país.
Utiliza Signal para chatear con tus amigos y familiares. Haz un donativo para apoyarlo.
Más información
Créditos
Escrito, diseñado y codificado por
Jeremiah Lee
Agradecimiento especiales a
Jonathan Cowperthwait
Marcel Waldvogel
Traducido al español por
CL/Ln. Humberto J. Normey, Lions
¿Puedes ayudar a traducir esto al alemán (deutsch), flamenco (vlaams), esperanto, francés (française), holandés (nederlands) u otro idioma? Contact me!
Los logotipos y nombres de empresas son marcas registradas de sus respectivos propietarios. Utilizados sin permiso con fines de investigación periodística y crítica cultural, reseña, caricatura y parodia.
Software de código abierto utilizado:
Hero Icons (MIT license), Monaspace Krypton (SIL Open Font License 1.1), Old Standard TT (SIL Open Font License 1.1), Tailwind CSS (MIT license)
Meta imagen de comunicado de prensa de Meta Newsroom
Headlines from the first year of Chat Control por Jeremiah Lee y la traducción al español por CL/Ln. Humberto J. Normey, Lions están licenciado bajo CC BY 4.0
