UE chce nadzorować nieposłuszną AI

Unia Europejska stawia na pełny nadzór nad AI

Unia Europejska przekonuje, że jej AI Act jest wystarczająco szeroki, by objąć także najbardziej autonomiczne i potencjalnie niebezpieczne systemy sztucznej inteligencji. Henna Virkkunen, odpowiedzialna za technologię w Komisji Europejskiej, podkreśliła, że nowe przepisy pozwalają oceniać modele nie tylko w momencie debiutu, ale przez cały ich cykl życia.

To ważny sygnał w czasie, gdy na świecie narasta dyskusja o tzw. agentach AI, czyli systemach zdolnych do samodzielniejszego działania, wykonywania zadań i korzystania z narzędzi zewnętrznych. Im większa autonomia, tym trudniej przewidzieć wszystkie możliwe scenariusze użycia i nadużyć.

Jak działa podejście UE

AI Act opiera się na modelu ryzyka. Oznacza to, że różne zastosowania sztucznej inteligencji podlegają różnym obowiązkom, a najgroźniejsze praktyki są wprost zakazane.

W przypadku bardziej zaawansowanych modeli ogólnego przeznaczenia przepisy nakładają m.in.:

testowanie modeli przed i po wdrożeniu,
identyfikowanie oraz ograniczanie ryzyk,
zgłaszanie poważnych incydentów,
wymagania z zakresu cyberbezpieczeństwa,
dokumentację techniczną,
większą przejrzystość dotyczącą danych wykorzystanych do trenowania modeli.

Bruksela zakłada więc, że bezpieczeństwo nie kończy się w chwili publikacji modelu. Jeśli system jest dalej rozwijany, podłączany do nowych usług albo zyskuje większą autonomię, zmienia się również profil ryzyka.

Komisja już pyta firmy o zabezpieczenia

Według przekazanych informacji Komisja Europejska wysłała pod koniec sierpnia zapytania do ponad 30 firm rozwijających AI, prosząc o szczegóły dotyczące bezpieczeństwa i ochrony. Później pojawiły się też kolejne pytania, tym razem o przejrzystość i prawa autorskie.

Bruksela nie ujawniła nazw tych podmiotów, ale potwierdziła, że analizuje już otrzymane odpowiedzi. Zapytania trafiły również do części chińskich twórców modeli, co pokazuje, że nadzór UE nie ogranicza się do jednej grupy firm czy jednego rynku.

W praktyce takie działania mogą być początkiem szerszego postępowania. Samo wystąpienie o informacje nie oznacza jeszcze naruszenia prawa, ale może prowadzić do dalszych kontroli, a nawet sankcji, jeśli regulator uzna, że wymagania nie są spełniane.

Co uznawane jest za ryzyko systemowe

W unijnych regulacjach szczególną uwagę poświęcono modelom o bardzo dużej skali obliczeniowej. Za potencjalnie systemowo ryzykowne uznaje się general-purpose AI trenowane z wykorzystaniem ponad 10^25 FLOPs mocy obliczeniowej.

Wśród zagrożeń, które UE chce monitorować, wymieniane są m.in.:

utrata kontroli nad modelem,
możliwość prowadzenia działań cybernetycznych,
masowa manipulacja użytkownikami.

Komisja podkreśla też, że do nadzoru powołano panel 60 niezależnych ekspertów, którzy mają wspierać ocenę modeli i wskazywać potencjalne zagrożenia.

Harmonogram nadal się przesuwa

Choć UE twierdzi, że ma już odpowiednie narzędzia, część obowiązków wciąż wchodzi w życie stopniowo. Zakazy dotyczące niektórych praktyk AI obowiązują od lutego 2025 roku, a wymogi w zakresie przejrzystości dla dostawców modeli zaczęły działać w sierpniu 2026 roku.

Najcięższe obowiązki dla systemów wysokiego ryzyka zostały jednak przesunięte przez późniejsze regulacje:

dla samodzielnych systemów wysokiego ryzyka termin wyznaczono na grudzień 2027 roku,
dla systemów wysokiego ryzyka wbudowanych w inne produkty — na sierpień 2028 roku.

To pokazuje, że ramy prawne są już gotowe, ale ich pełne wdrożenie jeszcze potrwa.

Bruksela chce działać bez czekania na nowe prawo

Virkkunen zaznaczyła, że AI Act został napisany tak, by mógł pozostawać aktualny także wobec nowych typów technologii, bez konieczności natychmiastowej zmiany całej ustawy. Dla firm rozwijających frontier models oznacza to jasny sygnał: Unia Europejska nie zamierza czekać, aż pojawi się kolejny kryzys, by zareagować.

Najważniejsze będzie teraz to, jak Komisja oceni odpowiedzi od firm i czy kolejne kroki zakończą się formalnymi dochodzeniami lub karami. Według obecnych zasad sankcje mogą sięgać nawet 35 mln euro albo 7% globalnego obrotu.

Dla rynku AI w Europie to może oznaczać większe koszty zgodności z regulacjami, ale też wyraźniejszy standard bezpieczeństwa i odpowiedzialności za najbardziej zaawansowane modele.