Doniesienia z przyszłości Pierwszy rok od uruchomienia Kontroli Czatów

Nowe prawo unijne zmusza Big Techy do walki z wykorzystywaniem dzieci, aktywiści obierają kurs

Brussels — dziś wchodzi w życie unijna regulacja mająca na celu zapobieganie niegodziwemu traktowaniu dzieci w celach seksualnych (CSAR). Uważa się, że nowe prawo doprowadzi do współpracy Unii Europejskiej z niespodziewanym partnerem - gigantami technologicznymi, którzy dotychczas byli przede wszystkim karani finansowo za nieposzanowanie prywatności użytkowników.

Szeroko stosowanie w komunikacji szyfrowanie od końca do końca (end-to-end encryption - E2EE) pozwoliło firmom i rządom na kontakt z poczuciem bezpieczeństwa ważnych dla nich informacji. Takie bezpieczeństwo miało jednak swoją cenę - organy ścigania miały ograniczone możliwości badania potencjalnych przestępstw.

Technologia E2EE działa na zasadzie wymiany cyfrowych kluczy między odbiorcą i nadawcą wiadomości, dzięki którym komunikacja możliwa jest do odczytania tylko przez te strony. W tym systemie możliwe jest też wdrożenie dodatkowego, trzeciego, klucza na potrzeby analizowania komunikacji przez zewnętrzne instytucje, ale to oznacza konieczność odpowiedniego zabezpieczenia, żeby mógł być on wykorzystywany tylko przez podmioty uprawnione. Ten problem dotychczas skutecznie powstrzymywał przed skorzystaniem z tego rozwiązania.

Przeciwnicy nowego prawa telekomunikacyjnego zmienili podejście w momencie odkrycia nowego rozwiązania. Wspomniana nowa regulacja zobowiązuje teraz dostawców komunikatorów do weryfikowania przesyłanych zdjęć i filmów pod kątem treści dotyczących wykorzystywania małoletnich jeszcze zanim komunikacja zostanie zaszyfrowana i wysłana. Oprogramowanie może tymczasowo przesłać niezaszyfrowaną treść multimedialną na własne serwery moderacyjne lub użyć bezpośrednio na urządzeniu wyszkolonego na treściach pozyskanych przez służby oprogramowania AI. Każda nowo zidentyfikowana nielegalna treść musi być wtedy przesłana do organów ścigania.

Ponad 100 organizacji praw człowieka sprzeciwiało się "kontroli czatów" jeszcze zanim stało się ono prawem. Krytycy opowiadali się za walką w Trybunale Sprawiedliwości Unii Europejskiej za łamanie prawa do prywatności gwarantowanej przez Kartę praw podstawowych Unii Europejskiej.

"Korzystając z powszechnego skanowania komunikacji nie jesteśmy w stanie uniknąć błędnych raportów, nawet jeśli deklarowana dokładność jest wysoka, a to natomiast prowadzić będzie do licznych szkód niewinnych osób. Masowy i bezkrytyczny monitoring znacznie zredukuje u ludzi poczucie swobody wypowiedzi, którzy zaczną ograniczać sposoby komunikacji z innymi, a także zaczną stosować samocenzurę." - oświadczył Wysoki komisarz Narodów Zjednoczonych do spraw praw człowieka.

"Ta regulacja traktuje każde udostępnione przez nas zdjęcie jako potencjalny dowód naszej winy dopóki to my nie udowodnimy ponad wszelką wątpliwość swojej niewinności. Dziś monitoring zdjęć jest usprawiedliwiany dobrem dzieci, jutro analizowanie może być rozszerzone do wszystkiego co robimy na naszych urządzeniach w celu przeciwdziałania terroryzmowi i zorganizowanym przestępstwom." — opisuje aktywista i programista Jeremiah Lee.

Ten artykuł nigdy nie został wydany przez Reuters. Patrz: Uwaga.

Chaos komunikacyjny" dla urzędników państwowych z powodu uruchomienia Kontroli Czatów w UE

Brussels — nocne negocjacje prowadzone przez Komisję Europejską nie przekonały fundacji Signal do kontynuowania dostarczania swojej usługi dla urzędników państwowych, agencji bezpieczeństwa oraz wojska, którzy są wykluczeni z obowiązkowego skanowania komunikacji.

Komisja zaleciła w 2020 roku używanie Signal do komunikacji między pracownikami instytucji po serii wycieków tysięcy depeszy dyplomatycznych. Aktualnie badana jest możliwość wewnętrznego skopiowania i rozwinięcia otwartoźródłowego projektu Signal lub wdrożenia narzędzi używających protokołu Matrix - nie można jednak spodziewać się żadnej nowej rekomendacji przez co najmniej 6 najbliższych miesięcy.

Ten artykuł nigdy nie został wydany przez Reuters. Patrz: Uwaga.

Wiadomość prasowa

• WhatsApp
• Messenger
• Instagram

Bezpieczny Czat dostępny dla każdego użytkownika

Menlo Park — Meta kontynuuje swoje zaangażowanie w bezpieczeństwo publiczne wykorzystując zaawansowane narzędzia AI do skutecznego identyfikowania nielegalnych treści w obrębie Unii Europejskiej i zgłaszania ich w razie konieczności do organów ścigania.

Bezpieczeństwo młodych osób jest wyzwaniem od samego początku Internetu. Taktyki przestępców ewoluują, a więc my też musimy unowocześniać swoje systemy obrony.

Wyspecjalizowaliśmy nasze modele sztucznej inteligencji bazując na milionach manualnych decyzji moderacyjnych. Nowa regulacja pozwala teraz na rozszerzenie tej ochrony o obrazy i filmy przesyłane w ramach zaszyfrowanej komunikacji.

Problem rozpowszechnienia treści obrazujących wykorzystywanie dzieci (CSAM) zobowiązał wszystkich dostawców usług telekomunikacyjnych i nie jest w stanie rozwiązać go tylko jedna organizacja. "Meta z radością przyjmuje aktywną postawę rządów dostosowujących zasady działania Internetu tak, żeby zachować w nim to, co najlepsze - swobodę wyrażania siebie i tworzenia nowych rzeczy - z jednoczesnym chronieniem społeczeństwa." - mówi Mark Zuckerberg, dyrektor wykonawczy firmy Meta.

Komunikator WhatsApp codziennie łączy setki miliony osób w Unii Europejskiej i na całym świecie. Wszystkie nasze narzędzia wykorzystywane są do niesamowitych działań, co tylko umacnia nasze zaangażowanie do zapewniania każdemu pozytywnego doświadczania komunikacji.

Od 2016 roku Meta zainwestowała w sumie ponad 20 miliardów dolarów w budowanie zaufania i poczucia bezpieczeństwa. "Meta działa zdecydowanie ponad nakładane na nią wymagania, aby zapewnić że żadna tego rodzaju aktywność nie będzie się zdarzać." - informuje Narodowe Centrum Dzieci Zaginionych i Wykorzystanych (NCMEC).

Ta wiadomość prasowa nigdy nie została wydana przez Metę. Patrz: Uwaga.

Den stora berättelsen

Koniec ery prywatności? Nie na warcie tych geeków.

Podczas gdy UE wycofuje się z zapewniania prywatności, powstały już zewnętrzne narzędzia usuwające prawnie narzucone systemy z ich ulubionych komunikatorów, a także tworzone są zupełnie nowe, które mają być odporne na nowe regulacje.

Mija rok od wprowadzenia Kontroli Czatów w UE, prawodawcy wznowili debatę nad nadzorem dla zapewnienia bezpieczeństwa

Brussels — unijna regulacja dotycząca przeciwdziałaniu wykorzystywania dzieci w celach seksualnych, potocznie znana jako Kontrola Czatów (Chat Control), została uruchomiona rok temu. Zarówno krytycy jak i zwolennicy nowego prawa zgadzają się, że nie przyczyniło się ono do znaczącego poprawienia bezpieczeństwa osób małoletnich. Zaplanowane są kolejne, polaryzujące, debaty nad nowelizacją regulacji.

W ostatnim roku liczba zgłoszeń do organów ścigania w związku z podejrzeniami pedofilii zwiększyła się o 600% po tym jak dostawcy komunikatorów wdrożyli wymagane przez regulację zautomatyzowane analizowanie i raportowanie podejrzanych treści. Zwiększenie zgłoszeń nie poskutkowało jednak zwiększeniem liczby wyroków, bo tylko 4 zarzuty karne wykorzystały dowody uzyskane z automatycznych zgłoszeń, gdzie wszystkie 4 dochodzenia były w toku przed uzyskaniem dodatkowych dowodów.

"Byliśmy przytłoczeni liczbą tych zgłoszeń. Nie mamy wystarczającego budżetu do zatrudnienia i przeszkolenia odpowiedniej liczby osób, aby sprawnie na nie reagować. Czujemy się jakby sieci społecznościowe oddelegowały ich problem moderacyjny na instytucje rządowe" - mówi pracownik jednego z organów ścigania chcący zachować anonimowość.

Unijne Cetrum nadzorujące działanie regulacji potwierdziło, że większość zgłoszeń było nieszkodliwych, bo przedstawiały one zdjęcia dzieci korzystających z czasu wakacyjnego lub były to nagie zdjęcia przesyłane przez nastolatków za ich obopólną zgodą.

Krytycy wprowadzonego nadzoru komunikacji twierdzą, że prawo poszło za daleko w ograniczaniu prywatności i przedstawiają jego nieskuteczność jako powód do rezygnacji z regulacji. Zwolennicy natomiast uważają wspomnianą nieskuteczność jako powód do dalszego uszczelniania prawa i zwiększania liczby obowiązków nakładanych na dostawców.

"Kryminaliści działają szybko, a my musimy działać szybciej. Podejrzewamy, że przestępcy przerzucili się na używanie komunikatorów, których nadzór aktualnie nie dotyczy" - twierdzi inny pracownik organów ścigania, również chcący zachować anonimowość.

Komunikatory używające inspirowaną Torem i dark webem technologię peer-to-peer zaczęły być też szerzej znane jako programy z "czarnym dymkiem", co jest nawiązaniem do kolorowania dymków wiadomości w urządzeniach Apple na niebiesko i zielono, gdzie niebieskie to wiadomości przesłane z użyciem iMessage, a zielone to te przesłane z użyciem starszej technologii SMS.

W zeszłym tygodniu krajowi reprezentanci w Radzie Europejskiej rozpoczęli debatę nad rozszerzeniem nadzoru komunikatorów pod kątem zwalczania nadużyć na nieletnich. Pierwsza tego typu propozycja padła już wiosną 2023 podczas szwedzkiej prezydencji w Radzie Unii Europejskiej, zaś jej zaktualizowana wersja dopuszczałaby możliwość żądania od dostawców dostępu do niezaszyfrowanych danych użytkowników na podstawie nakazu sądowego.

Organizacje skupione na prawach człowieka sprzeciwiają się propozycjom powołując się na trudności techniczne jakie przyniosłoby ich wdrażanie.

"Tak zwane "dopuszczanie uprawnionego dostępu" to w rzeczywistości "dopuszczanie braku zabezpieczeń". Nie ma możliwości wgrania tylnej furtki do oprogramowania lub bezpiecznego skanowania danych bezpośrednio na urządzeniu na potrzeby policji bez jednoczesnego narażania się na wykorzystanie tych narzędzi przez wrogie kraje lub hakerów. To nie jest fetysz prywatności, to jest rzeczywistość." - twierdzi Jeremiah Lee, specjalizujący się w technologiach dotyczących prywatności.

Debata nad zachowaniem równowagi między prawem do prywatności, a rządowymi możliwościami zapewnienia ofiarom sprawiedliwości będzie prawdopodobnie trwać przez pokolenia. Dla niektórych ta dyskusja odwraca jedynie uwagę od szukania nietechnicznych rozwiązań nietechnicznych problemów.

"To jest samonegujący się paradoks. Nie ma możliwości wdrożenia masowego nadzoru z jednoczesnym zachowaniem prywatności, kropka." - twierdzi Meredith Whittaker, szefowa Signal.

Ten artykuł nigdy nie został wydany przez Reuters. Patrz: Uwaga.