Pojęcie agenta AI jest używane niejednolicie. Zwykle oznacza system zdolny do odbierania informacji z otoczenia, przetwarzania ich i wykonywania działań wpływających na to otoczenie, np. przez wywoływanie funkcji w innych aplikacjach. Bardziej złożone rozwiązania mogą łączyć kilka agentów, które dzielą zadania i przekazują sobie wyniki.
AI Act Service Desk podkreśla, że agent AI nie jest osobną kategorią w rozporządzeniu. Najczęściej spełnia definicję systemu AI, a używany w nim model językowy może być modelem ogólnego przeznaczenia. Oznacza to zastosowanie istniejących reguł: zakazów z art. 5, obowiązków przejrzystości z art. 50, wymagań dla wysokiego ryzyka, jeśli decyduje o takim zastosowaniu, oraz przepisów dotyczących modelu bazowego.
Odpowiedzialność za skutek, nie za etykietę
Jeżeli firma daje agentowi dostęp do poczty, systemu zakupowego, CRM lub rachunku płatniczego, to ona określa zakres uprawnień, cele, źródła danych i zasady zatwierdzania. Błąd może prowadzić do zawarcia niekorzystnej umowy, wysłania poufnego dokumentu, naruszenia danych, złożenia nieprawidłowego zamówienia lub szkody po stronie klienta. AI Act reguluje bezpieczeństwo i obowiązki operatorów, ale nie jest kompletnym kodeksem odpowiedzialności cywilnej za każdą szkodę.
Odpowiedzialność należy oceniać również na podstawie prawa umów, przepisów konsumenckich, zasad ochrony danych, prawa pracy, regulacji płatniczych i odpowiedzialności za produkt. W relacji z kontrahentem kluczowe będzie to, czy system działał jako narzędzie przedsiębiorcy w granicach udzielonych uprawnień i jakie zabezpieczenia przewidziano. Wewnętrzna instrukcja zabraniająca agentowi określonej operacji nie musi uwolnić firmy wobec osoby trzeciej, jeśli technicznie pozostawiono systemowi możliwość jej wykonania.
Agent AI w kontakcie z człowiekiem
Od 2 sierpnia 2026 r. system przeznaczony do bezpośredniej interakcji z osobą powinien ujawnić, że jest AI, chyba że jest to oczywiste w danych okolicznościach. Dotyczy to także agenta prowadzącego negocjacje, umawiającego spotkanie, obsługującego reklamację lub zbierającego informacje od klienta. Jeżeli generuje tekst, obraz, dźwięk lub wideo, znaczenie mogą mieć również obowiązki technicznego oznaczania treści i informowania o materiałach sztucznych.
Przedsiębiorca powinien ustalić, czy agent występuje jako samodzielny rozmówca, czy jedynie przygotowuje wersję roboczą zatwierdzaną przez pracownika. W pierwszym przypadku obowiązek transparentności jest wyraźniejszy. W drugim nadal pozostają pytania o ochronę danych, tajemnicę korespondencji, poufność i rzetelność informacji.
Agentyczna AI w systemach wysokiego ryzyka
Jeżeli agent jest używany do rekrutacji, oceny zdolności kredytowej, taryfikacji ubezpieczenia na życie, dostępu do świadczeń lub innego zastosowania z załącznika III, może zostać sklasyfikowany jako system wysokiego ryzyka. Po unijnym porozumieniu odpowiednie wymagania mają być stosowane od 2 grudnia 2027 r. Autonomia i zdolność korzystania z narzędzi nie tworzą automatycznie wysokiego ryzyka, lecz mogą zwiększać skalę oraz szybkość skutków błędu.
W przypadku modeli ogólnego przeznaczenia z ryzykiem systemowym zdolności autonomiczne i korzystanie z narzędzi są istotne przy ocenie ryzyka. Dostawcy takich modeli mają obowiązki dotyczące oceny i ograniczania ryzyka systemowego, raportowania poważnych incydentów oraz cyberbezpieczeństwa. Komisja zaznacza jednak, że jej podejście do agentów pozostaje wstępne, ponieważ technologia szybko się zmienia.
Nadzór człowieka przed wykonaniem operacji
Najskuteczniejszą ochroną nie jest ogólny komunikat, że człowiek nadzoruje system, lecz konkretna architektura uprawnień. Firma powinna rozdzielić działania odwracalne od nieodwracalnych i określić progi wymagające akceptacji. Agent może sam przygotować koszyk lub projekt wiadomości, ale wysłanie przelewu, podpisanie umowy, ujawnienie dokumentu albo usunięcie danych powinno wymagać dodatkowego potwierdzenia, jeśli ryzyko jest istotne.
Należy stosować zasadę najmniejszych uprawnień. Agent nie powinien otrzymywać stałego dostępu do całej skrzynki, wszystkich klientów i nieograniczonych płatności, jeżeli wykonuje wąskie zadanie. Potrzebne są limity kwotowe, dozwolone listy odbiorców i narzędzi, ograniczenia czasu sesji, separacja środowisk oraz możliwość natychmiastowego cofnięcia dostępu.
Logi i odtworzenie drogi działania
W razie incydentu firma musi wiedzieć, jakie dane agent otrzymał, jakie polecenie wykonał, z których narzędzi skorzystał i jakie komunikaty wysłał. Rejestrowanie powinno obejmować nie tylko końcowy rezultat, lecz także istotne wywołania funkcji, decyzje zatwierdzające i wersję systemu. Logi muszą być chronione, ponieważ same mogą zawierać dane osobowe i tajemnice przedsiębiorstwa.
Testy powinny uwzględniać ataki polegające na ukryciu instrukcji w wiadomości, dokumencie lub stronie internetowej. Agent może potraktować obcą treść jako polecenie, ujawnić dane albo ominąć przyjęty proces. Cyberbezpieczeństwo systemu agentycznego obejmuje zatem kontrolę wejścia, izolację narzędzi, walidację wyników i odporność na manipulację.
Umowa z dostawcą agenta AI
Kontrakt powinien określać dopuszczalne zastosowania, podział ról, dostęp do dokumentacji i logów, zasady aktualizacji, zgłaszanie incydentów, podwykonawców, lokalizację danych i procedurę wyłączenia usługi. Firma powinna wiedzieć, czy dostawca może sam zmienić model bazowy lub funkcje narzędziowe, ponieważ aktualizacja może wpłynąć na zachowanie agenta bez modyfikacji po stronie klienta.
Nie można ograniczyć analizy do deklaracji producenta, że produkt jest zgodny z AI Act. Odpowiedzialność zależy również od sposobu konfiguracji i użycia. Im więcej autonomii, danych i uprawnień przekazuje firma, tym mocniejsze powinny być zabezpieczenia, nadzór i dowody przeprowadzonych testów.
Źródła
- AI Act Service Desk, wyjaśnienie dotyczące sposobu objęcia agentów AI przepisami AI Act.
- Rozporządzenie Parlamentu Europejskiego i Rady (UE) 2024/1689, w szczególności art. 3, art. 5, art. 14, art. 15, art. 50, art. 51 i art. 55.
- Komisja Europejska, Kodeks postępowania dla modeli sztucznej inteligencji ogólnego przeznaczenia.
- Komisja Europejska, materiały dotyczące odpowiedzialności za systemy sztucznej inteligencji i odpowiedzialności za produkty.
- Komisja Europejska, harmonogram stosowania AI Act po porozumieniu politycznym z 7 maja 2026 r.
Współpracował z Wirtualną Polską, Wprost, Zieloną Interią. Komentuje wydarzenia polityczne dla Polskiego Radia. Zajmuje się polityką międzynarodową i krajową na łamach Gazety Prawnej. Pasjonat technologii i nauki.