AI Act. Wykorzystanie sztucznej inteligencji w UE będzie regulowane ustawą

Unia Europejska przyjęła porozumienie w sprawie sztucznej inteligencji. Pierwsze na świecie kompleksowe przepisy prawa regulujące jej wykorzystanie mają zostać uchwalone jeszcze w tym roku. Sprawdź czym jest AI Act i jak Cię chroni.

W ramach swojej strategii cyfrowej UE chce uregulować kwestię sztucznej inteligencji. Ma to zapewnić lepsze warunki rozwoju i wykorzystania tej innowacyjnej technologii. AI może zapewnić wiele korzyści, ale musi zostać ujarzmiona przez prawo.

Czego Parlament chce od AI?

W kwietniu 2021 r. Komisja Europejska zaproponowała pierwsze unijne ramy regulacyjne dotyczące sztucznej inteligencji. Na ich podstawie systemy AI, które można wykorzystać w różnych dziedzinach, są analizowane i klasyfikowane według ryzyka, jakie stwarzają dla użytkowników. Różne poziomy ewentualnego zagrożenia będą oznaczać mniej lub więcej regulacji. Po zatwierdzeniu będą to pierwsze na świecie przepisy dotyczące tej rozwijającej się w zawrotnym tempie technologii.

Priorytetem władz jest dbanie o to, aby systemy sztucznej inteligencji stosowane w UE były:

• bezpieczne
• przejrzyste
• identyfikowalne
• niedyskryminujące
• przyjazne dla środowiska.

Aby zapobiec szkodliwym skutkom, AI powinna być nadzorowana przez ludzi, a nie przez automatyzację. Parlament chce również ustalić neutralną technologicznie, jednolitą definicję sztucznej inteligencji.

Różne zasady dla różnych poziomów ryzyka

Nowe przepisy ustanawiają obowiązki dostawców i użytkowników w zależności od poziomu ryzyka ze strony SI. Chociaż w przypadku wielu systemów jest ono minimalne lub nie ma go w ogóle, konieczne jest ustanowienie fundamentalnych ram prawnych. Komisja Europejska dzieli poziomy ryzyka wynikające z wykorzystania AI na trzy kategorie:

• niedopuszczalne
• wysokie
• ograniczone.

Systemy sztucznej inteligencji o ryzyku niedopuszczalnym są uważane za niosące zagrożenie dla ludzi. AI Act ma ich zakazywać. Należą do nich, na przykład, programy klasyfikujące ludzi na podstawie zachowania, statusu społeczno-ekonomicznego lub cech osobistych, a także zabawki nakłaniające dzieci do ryzykownych zachowań. Niektóre systemy (zdalna identyfikacja biometryczna działająca w czasie rzeczywistym) mogą być wyjątkowo dopuszczone do celów egzekwowania prawa.

Systemy sztucznej inteligencji, które negatywnie wpływają na bezpieczeństwo lub prawa podstawowe, będą uznawane za stwarzające wysokie ryzyko i zostaną podzielone na dwie grupy. Pierwszą z nich będą programy napędzane przez AI w produktach objętych przepisami UE, drugą zaś systemy należące do konkretnych obszarów, które będą musiały zostać zarejestrowane w bazie danych UE.

Ostatnią kategorię stanowią systemy, które powinny spełniać minimalne wymogi w zakresie przejrzystości. Programy te muszą umożliwiać ludziom podejmowanie świadomych decyzji. Po interakcji z aplikacjami użytkownik może zdecydować, czy chce dalej z nich korzystać i powinien być świadomy, że wchodzi w interakcje z AI. Obejmuje to systemy sztucznej inteligencji, które generują obrazy, treści audio lub wideo lub manipulują nimi, na przykład deepfakes.

Sztuczna inteligencja ogólnego przeznaczenia i generatywna

Generatywna sztuczna inteligencja, taka jak ChatGPT, będzie musiała spełniać wymogi przejrzystości. Oznacza to, że konieczne będzie ujawnienie przez dostawców oprogramowania i aplikacji, że treść została wygenerowana przez AI. Unia Europejska sugeruje także zaprojektowanie modelu tak, aby nie generował nielegalnych treści. Ponadto wymagana będzie publikacja podsumowań danych chronionych prawem autorskim wykorzystywanych do szkoleń. Modele AI ogólnego przeznaczenia mogą stwarzać ryzyko systemowe (np.GPT-4), więc muszą zostać poddane dokładnej ocenie. Wszelkie poważne incydenty należy zgłaszać Komisji Europejskiej.

Kiedy AI Act wejdzie w życie?

W czerwcu 2023 roku Parlament Europejski przedstawił szereg zmian do propozycji Komisji dotyczących AI Act. Obecnie prace nad dokumentem znajdują się w ostatniej fazie. Ostateczny kształt rozporządzenia będzie wynikiem negocjacji między Radą, Komisją i Parlamentem. Możemy spodziewać się, że uchwalenie AI Act może nastąpić jeszcze w bieżącym roku. Jego wejście w życie potrwa najprawdopodobniej 2 lata.

Krystyna Kowalska