W debacie publicznej często miesza się kilka pojęć: monitoring wizyjny, analiza obrazu, identyfikacja biometryczna, kategoryzacja biometryczna i rozpoznawanie emocji. AI Act rozróżnia te sytuacje. Zwykła kamera w sklepie, autobusie czy na dworcu nie jest automatycznie systemem rozpoznawania twarzy. Problem zaczyna się wtedy, gdy obraz jest przetwarzany przez algorytm w celu identyfikacji osoby, porównania jej z bazą danych albo przypisania jej określonych cech.
Biometria jest wrażliwa, bo dotyczy cech człowieka, których nie da się łatwo zmienić. Twarz, układ linii papilarnych, tęczówka oka, głos, sposób chodzenia czy inne cechy fizyczne mogą służyć do identyfikacji. Jeżeli takie dane zostaną wykorzystane w sposób niekontrolowany, konsekwencje dla obywatela mogą być poważniejsze niż przy zwykłym haśle do konta. Hasło można zmienić. Twarzy — w praktycznym sensie — nie.
AI Act traktuje część zastosowań biometrii jako zakazane, a część jako wysokiego ryzyka. Zakazane są m.in. określone praktyki biometrycznej kategoryzacji prowadzące do wnioskowania o wrażliwych cechach człowieka, takich jak poglądy polityczne, przekonania religijne czy orientacja seksualna. Ograniczenia obejmują także niektóre formy rozpoznawania emocji w miejscu pracy i edukacji oraz budowanie baz rozpoznawania twarzy przez masowe pobieranie zdjęć z internetu lub nagrań z monitoringu.
Rozpoznawanie twarzy w czasie rzeczywistym. Największe ograniczenia
Największe emocje budzi zdalna identyfikacja biometryczna w czasie rzeczywistym w przestrzeni publicznej. Chodzi o sytuację, w której system analizuje twarze osób znajdujących się na ulicy, dworcu, stadionie albo w innym publicznie dostępnym miejscu i porównuje je z bazą danych. Taka technologia może być użyteczna w wyjątkowych sytuacjach, ale jednocześnie tworzy ryzyko stałej obserwacji obywateli.
AI Act zasadniczo zakazuje używania takich systemów przez organy ścigania w publicznie dostępnych przestrzeniach, przewidując tylko wąskie wyjątki. Mogą one dotyczyć m.in. poszukiwania ofiar określonych przestępstw, zapobiegania konkretnemu i poważnemu zagrożeniu, takiemu jak atak terrorystyczny, albo ścigania sprawców najpoważniejszych przestępstw. Nawet wtedy stosowanie technologii ma być obwarowane warunkami, a nie pozostawione swobodnej decyzji służb.
To ważna zmiana, bo biometryczne rozpoznawanie twarzy w czasie rzeczywistym nie jest zwykłym monitoringiem. Monitoring rejestruje obraz, który można później przeanalizować. System identyfikacji biometrycznej może natomiast na bieżąco wskazywać, kim jest osoba znajdująca się w tłumie. Różnica dla prywatności i wolności poruszania się jest zasadnicza.
Rozpoznawanie emocji w pracy i szkole
AI Act obejmuje również rozpoznawanie emocji. Szczególne ograniczenia dotyczą miejsc pracy i edukacji. System, który na podstawie twarzy, głosu, mimiki albo zachowania ma oceniać, czy pracownik jest zestresowany, zmęczony, zaangażowany albo niezadowolony, może prowadzić do nadużyć. Podobnie w szkole algorytmiczne ocenianie emocji ucznia może wpływać na relacje z nauczycielem, ocenę zachowania albo sposób traktowania dziecka.
Unijne przepisy wychodzą z założenia, że takie technologie są zbyt ryzykowne w relacjach zależności. Pracownik zależy od pracodawcy, uczeń od szkoły, a kandydat od rekrutera. W takich sytuacjach zgoda na analizę emocji może być pozorna, bo osoba poddawana ocenie może obawiać się konsekwencji odmowy. To jeden z powodów, dla których AI Act wprowadza zakazy i ograniczenia właśnie w tych obszarach.
Nie oznacza to, że każda analiza obrazu w pracy jest zakazana. Inne znaczenie ma system bezpieczeństwa wykrywający wejście do strefy niebezpiecznej, a inne narzędzie oceniające emocje pracowników podczas rozmów z klientami. Kluczowe jest to, jaki jest cel systemu, jakie dane przetwarza i jakie skutki może wywołać wobec konkretnej osoby.
Bezpieczeństwo publiczne a prawa obywatela
Spór o biometrię nie sprowadza się do prostego wyboru między bezpieczeństwem a prywatnością. Służby mogą argumentować, że rozpoznawanie twarzy pomaga znaleźć sprawcę, zapobiec zamachowi albo zidentyfikować osobę zaginioną. Organizacje obywatelskie i regulatorzy zwracają jednak uwagę, że ta sama technologia może prowadzić do masowego nadzoru, błędnych identyfikacji i zniechęcania ludzi do udziału w zgromadzeniach publicznych.
AI Act próbuje wyznaczyć granicę: nie odrzuca całkowicie technologii biometrycznych, ale ogranicza ich użycie tam, gdzie ryzyko dla praw podstawowych jest największe. W praktyce znaczenie będą miały przepisy krajowe, organy nadzoru oraz procedury kontroli. Polska, podobnie jak inne państwa członkowskie, musi stworzyć krajowy system nadzoru nad stosowaniem AI Act. Projekt polskiej ustawy ma służyć wdrożeniu unijnego rozporządzenia i określeniu krajowych ram instytucjonalnych.
Dla obywatela najważniejsze jest to, że sama obecność kamer nie przesądza jeszcze o stosowaniu AI. Jeżeli jednak system rozpoznaje twarze, analizuje cechy biometryczne albo przypisuje ludziom kategorie na podstawie wyglądu, wchodzimy w obszar szczególnie wrażliwy. AI Act nakłada na takie rozwiązania daleko idące ograniczenia, bo technologia identyfikująca człowieka w przestrzeni publicznej może wpływać nie tylko na prywatność, lecz także na wolność zachowania anonimowości w życiu codziennym.
Źródła: EUR-Lex, rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689; Komisja Europejska i AI Act Service Desk, informacje o zakazanych praktykach AI; Bundesnetzagentur, informacje o wyjątkach dotyczących zdalnej identyfikacji biometrycznej; Reuters, informacje o wytycznych Komisji Europejskiej dotyczących zakazanych zastosowań AI; Rządowe Centrum Legislacji i Ministerstwo Cyfryzacji, informacje o projekcie polskiej ustawy o systemach sztucznej inteligencji.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.