Propozycja legislacyjna nazywana Kontrolą Czatu ma m.in. znieść wprowadzone od pewnego czasu szyfrowanie naszych prywatnych rozmów w sieci, aby filtrować treści w celu ochrony nieletnich. Chodzi o zwalczanie w sieci obiegu tzw. CSAM, czyli materiałów przedstawiających seksualne wykorzystywanie dzieci. W odpowiedzi na to Internet zawrzał, z głosami krzyczącymi "to masowa inwigilacja!" czy "totalitaryzm!". Wyjaśniamy, na czym polega problem.

Czym jest Kontrola Czatu?

Zaproponowane przez Komisję Europejską rozporządzenie Kontrola Czatu ma zapobiec obiegowi zbrodniczych materiałów przedstawiających seksualne nadużycia wobec dzieci.

W celu zwalczania CSAM na platformach cyfrowych pojawi się obowiązek wdrożenia mechanizmu wykrywania, automatycznie skanującego wiadomości użytkowników pod kątem podejrzanych treści. Zgłoszenia będą trafiać w ręce odpowiednich władz. 

We wniosku uwzględniono trudności związane z całkowitym zakazem szyfrowania. Proponowane są takie rozwiązanie jak "skanowanie po stronie klienta" czy "moderacja przesyłania", czyli analizowanie treści przed ich zaszyfrowaniem i przesłaniem przez dostawcę usługi albo aplikacji, np. platformę social media.

Sam pomysł nie jest nowy. Unia zaproponowała go już w 2020 roku do monitorowania wiadomości mailowych i prywatnych czatów. Powrócił dwa lata później i spotkał się wtedy ze zbiorowym sprzeciwem. A teraz znów trafił na tapet.

– W dobie powszechnej cyfryzacji i łatwego dostępu do sieci nie ma dziś wątpliwości, że potrzeba ochrony młodych użytkowników w Internecie i zapobiegania dostępowi do CSAM będą w kolejnych latach jednymi z ważniejszych wątków w obszarze cyberbezpieczeństwa – komentuje dla INNPoland Wojciech Gołębiowski, Wiceprezes i Dyrektor Zarządzający Palo Alto Networks w Europie Wschodniej.

Obecna regulacja dopuszcza monitoring u operatorów platform społecznościowych, jeśli ci wyrażą zgodę na współpracę z organami UE. Nowa wprowadziłaby obowiązek.

Jak to ma wyglądać? Proponowane zmiany w szczegółach wylistował członek niemieckiego parlamentu, Patrick Breyer, na swojej stronie poświęconej zagadnieniu.

Chat Control 2.0 ma zwiększyć wyniki zgłoszeń nielegalnych treści. Wedle założeń projektu nawet o 354 proc.. Pojawi się w tym celu szereg zmian, jak obowiązkowa kontrola wieku czy obowiązek wdrożenia monitoringu dla wszystkich platform mediów społecznościowych operujących na terenie UE (niezależnie od wielkości i liczby użytkowników). I nie tylko.

Skanowaniu podlegać mają nawet wideokonferencje i czaty w grach komputerowych. Dostawcy Internetu mogą zostać zobligowani do blokowania zgłoszonych adresów URL. 

Nie jest w ogóle jasne, jak Kontrola Czatu ma być wdrażana przez dostawców usług.

Na celowniku mają być szczególnie portale i usługi, jak serwisy w chmurze, podejrzewane o rozpowszechnianie CSAM… co w teorii może oznaczać, że potencjalnie wszystko, jeśli wykryto tam działania przestępców. Monitoring przyjrzy się również hasłom w wyszukiwarkach.

Jak to będzie działać? W użyciu mają być algorytmy sztucznej inteligencji, co jest jednym z punktów krytyki. Wszyscy wiemy, że AI potrafi być zwyczajnie… durne. Sami to testowaliśmy. Oczywiście, że UE wdraża coś lepszego do akcji niż chatboty, ale nadal nie wiadomo, jaki jest margines błędu algorytmów odpowiedzialnych za monitoring sieci.

Wedle danych szwajcarskiego Federalnego Urzędu Policji 80 proc. raportów, jakie do tej pory wpływało, nie miało związku z popełnieniem przestępstwa. Krytycy projektu podkreślają też, że algorytmy mające działać w monitoringu nie zostały udostępnione publicznie ani do wglądu przez grupy naukowe.

To nie jedyny taki pomysł na świecie. Przeciw szyfrowaniu rozmów próbował działać Apple. Podobnie wygląda amerykańska ustawa Earn-It Act. Wymóg skanowania treści online jest w Wielkiej Brytanii od 2023 roku.

Krytyka Kontroli Czatu

Co się w tym nie podoba ludziom? Nietrudno się domyślić, bo zapewne większość czytelników ma już w głowach zapalone lampki alarmowe. Krytykowane jest przede wszystkim monitorowanie prywatnych korespondencji, serwisów i nawet rozrywki.

Wśród zagrożeń można wskazać zwiększoną podatność na wycieki danych, które już teraz są poważnym problemem, z którym mierzą się firmy – zgodnie z naszymi badaniami problem dotyczy już 34 proc. podmiotów. Wojciech GołębiowskiWiceprezes i Dyrektor Zarządzający Palo Alto Networks w Europie Wschodniej

Niezależnie od szlachetnych intencji do wprowadzenia takiego monitoringu, pojawia się szereg problemów, ze wspomnianymi błędami algorytmów jako wierzchołkiem góry lodowej. Bo czaty są powszechną usługą na takich platformach jak np. Znanylekarz.pl. Prywatność pacjentów jest ważną sprawą, a brak możliwości jej zapewniania może być dla tego typu portali ciosem finansowym.

"Wyobraź sobie na przykład, że policja może przypadkowo wejść do Twojego domu, nie mając żadnego powodu, aby sądzić, że bierzesz udział w nielegalnej działalności, po prostu poszperać i sprawdzić, czy przez zwykły przypadek nie znajdą czegoś podejrzanego" – opisuje to w swoim manifeście Threema, firma od open-source aplikacji do czatów i usług szyfrowania informacji. Dodaje też, że to potencjalne naruszenie unijnej Karty praw podstawowych (art.7): "Każdy ma prawo do poszanowania swojego życia prywatnego i rodzinnego, domu i komunikacji".

Wątpliwa jest jeszcze sama skuteczność działania Chat Control 2.0. Pal sześć same błędy algorytmów, ale przestępcy zapewne znajdą sposoby, aby kontynuować rozprzestrzenianie nielegalnych treści. Nie bez powodu obieg CSAM jest paskudnym problemem i zrozumiałe jest, że Wspólnota chce z tym walczyć. Tylko wybrana metoda zapewne odsieje jedynie tych najmniej zaradnych zbrodniarzy. Potencjalnie przy tym dostarczając poważnych problemów wielu zwykłym użytkownikom Internetu i usługodawcom, na których ma spaść obowiązek skanowania.

Kontrola nie powstrzyma w ogóle ręcznego szyfrowania nielegalnych treści. Nie wpłynie też na krzywdę dzieci, która spotyka je w prawdziwym życiu. Przeciw propozycji sprzeciwia się niemieckie Federalne Stowarzyszenie Ochrony Dzieci z argumentem, że monitoring nie będzie "ani proporcjonalny, ani skuteczny".

"Oprócz nieuniknionych fałszywych alarmów (pomyśl o rodzinnych zdjęciach z wakacji na plaży), zdecydowana większość raportów CSAM prawdopodobnie dotyczy nieletnich (tj. tych, których należy chronić) angażujących się w "seksting" za obopólną zgodą" – czytamy w manifeście Threemy.

Oprócz tego, że algorytm będzie sprawdzał nasze prywatne zdjęcia z wakacji, z pewnością przyjrzy się także wszelkiej prywatnej korespondencji o treściach erotycznych i naszej aktywności na portalach randkowych. A jeden błąd AI może oznaczać nieprzyjemności, jak tymczasowe blokady konta. 

Do tego, niestety, nie ma gwarancji, co dalej będzie się działo z Chat Control 2.0 i w którym kierunku się rozwinie. Wszelkie zmiany w procedurach skanowania potencjalnie będą dla nas, zwykłych obywateli, niewidzialne. Łatwo sobie wyobrazić orwellowskie wizje z przesuwaniem kontroli na kolejne obszary…

Słusznym kierunkiem byłoby powołanie do życia niezależnych podmiotów kontrolujących zasadność użycia Chat Control 2.0, aby zapobiegać przekraczaniu uprawnień. Wojciech GołębiowskiWiceprezes i Dyrektor Zarządzający Palo Alto Networks w Europie Wschodniej

Protest przeciw Kontroli Czatu

Co możemy zrobić, jeśli nie zgadzamy się z propozycją Unii Europejskiej? Szczęśliwie stanowisko Polskiego rządu jest jasne - sprzeciwia się Chat Control 2.0. Dzielimy to zdanie razem z Niemcami, Austrią, Słowenią i Estonią.

Nadal jest jednak sporo niezdecydowanych państw. Propozycja wciąż podlega negocjacjom (głosowanie nad nią jest przesuwane). We wtorek 37 posłów do Parlamentu Europejskiego podpisało list otwarty do Rady Europy, wzywając prawodawców do odrzucenia Chat Control. Głosowanie może odbyć się potencjalnie już 20 czerwca 2024 roku.

Jeżeli prawodawstwo zyska poparcie, rozpoczną się negocjacje między Parlamentem UE, Radą i Komisją w celu ustalenia ostatecznego tekstu prawa.

Patrick Breyer, zwraca uwagę, że pod koniec czerwca kończy się prezydencja belgijska. A na czele projektu ustawy o kontroli stoi obecny Minister Spraw Wewnętrznych Belgii, przez co to może być ostatnia szansa, by zwolennicy monitoringu mogli go przegłosować.

Głośny sprzeciw wyrażają Signal, Threema, Mozilla, Sufrshark... łącznie około 60 organizacji. Meredith Whittaker, dyrektor generalna Signal, zagroziła wycofaniem swojej aplikacji z Wielkiej Brytanii, jeśli szyfrowanie zostanie zakazane. Z kolei Threema zapowiedziała, że jeśli wniosek przejdzie, opuści Unię Europejską.

"Nie ma sposobu na wdrożenie takich propozycji w kontekście szyfrowanej komunikacji end-to-end bez fundamentalnego podważenia szyfrowania i stworzenia niebezpiecznej luki w podstawowej infrastrukturze, która miałaby globalne konsekwencje daleko poza Europą" – napisała Whittaker.

Alternatywne propozycje, aby chronić ofiary przed przestępcami i zapobiegać obiegowi CSAM, istnieją. Pieniądze można wyłożyć chociażby w zwiększenie skuteczności aparatu prawa i dofinansowanie np. telefonów zaufania dla ofiar przemocy seksualnej.

– Już dziś istnieją sposoby skutecznego blokowania CSAM. W uproszczeniu takie rozwiązanie analizuje adresy URL, blokuje nielegalne treści, a także wysyła ostrzeżenia, że użytkownik próbuje uzyskać dostęp do CSAM. Mieliśmy do czynienia z podobnym przypadkiem na Filipinach, gdzie dla jednego z klientów wprowadzaliśmy tego rodzaju rozwiązanie. Dzięki temu w ciągu ośmiu miesięcy udało się zabezpieczyć zaszyfrowany ruch i zablokować miliard prób dostępu do adresów URL znajdującej się na tzw. czarnej liście – tłumaczy nam Wojciech Gołębiowski.

Nie wszystkie mechanizmy dotyczące cyberbezpieczeństwa są w Unii złe. Przeciwnie, sporo się sprawdza i tacy amerykanie mogą nam ich pozazdrościć. Takie przepisy jak AI Act albo DSA ustawiają standardy, zwiększające naszą prywatność i bezpieczeństwo w sieci. Pozostaje mieć nadzieję, że obowiązkowa Kontrola Czatu nie wejdzie we Wspólnocie, stając się przysłowiowym strzałem w kolano.

Głosowanie przełożono

Rada Unii Europejskiej nie będzie 20 czerwca głosować nad legislacją zakazującą szyfrowania danych. Propozycja nie znika jednak z radaru władz Brukseli.

Dyplomata z UE przekazał holenderskiemu dziennikarzowi z HLN, że ustawa pozostaje jednym z kluczowych priorytetów dla Rady.