Projekt AI Act wprowadza nowe regulacje dotyczące stosowania sztucznej inteligencji (AI) i dzieli je na trzy kategorie ryzyka: wysokie, ograniczone i minimalne. W każdej kategorii określono wymagania dotyczące danych, przejrzystości działania, nadzoru człowieka i odpowiedzialności. Istnieją również przypadki, w których AI będzie niedopuszczalne.
Kategoria wysokiego ryzyka obejmuje te zastosowania AI, które mają znaczący wpływ na życie ludzkie lub naruszają podstawowe prawa człowieka. Należą do nich systemy biometryczne, transport, ochrona zdrowia, edukacja i rekrutacja. Kategoria ograniczonego ryzyka obejmuje te zastosowania AI, które mają mniejszy wpływ na ludzi, ale wymagają przejrzystości działania, takie jak chatboty, asystenty głosowe i systemy rekomendacyjne. Kategoria minimalnego ryzyka obejmuje rozwiązania, które mają niewielki lub zerowy wpływ na ludzi, takie jak gry komputerowe, filtry do grafiki i zdjęć czy interaktywne zabawki.
Leszek Tasiemski, ekspert ds. cyberbezpieczeństwa, uważa, że AI Act jest korzystnym krokiem, ponieważ nakłada ramy prawne, które firmy technologiczne muszą przestrzegać. Regulacje pomagają powstrzymać rozwój AI w obszarach, które mogą być szkodliwe dla użytkowników i społeczeństwa jako całości. Zapobiegają również wykorzystywaniu AI wyłącznie dla zysku, eliminując potencjalne negatywne skutki dla ludzi.
W ramach regulacji AI Act przewiduje się utworzenie europejskiego urzędu ds. sztucznej inteligencji, który monitorowałby wdrażanie i egzekwowanie przepisów oraz wspierał innowacje i rozwój AI w Europie. Prognozuje się, że AI Act wejdzie w życie pod koniec 2023 roku.
Regulacje AI Act kładą duży nacisk na rzetelność danych używanych do trenowania modeli AI. Systemy wysokiego ryzyka muszą spełniać wymogi staranności w przetwarzaniu danych i być pozbawione błędów oraz uprzedzeń. Wymaga się również przejrzystego zarządzania danymi, aby użytkownicy mogli zrozumieć, jak są one wykorzystywane w modelach AI.
Jednak regulacje AI Act mogą prowadzić do aspektów ryzyka, zwłaszcza dla firm spoza Unii Europejskiej. Firmy globalne mogą wprowadzać specjalne wersje swoich produktów i usług na rynek europejski, które spełniają wymagania, ale jednocześnie oferować inne wersje na pozostałych rynkach, które nie podlegają regulacjom.
Pomimo wprowadzenia AI Act, nie można oczekiwać, że liczba ataków phishingowych czy dezinformacyjnych zmniejszy się. Grupy cyberprzestępcze nadal będą wykorzystywać sztuczną inteligencję do tworzenia masowych ataków. Ważne jest zatem, aby regulacje były elastyczne i przygotowane na dynamiczny rozwój AI.
Źródło: WithSecure