Parlament Europejski i jego posłowie, w trosce o etyczny rozwój sztucznej inteligencji (AI) w Europie zatwierdzili nowe zasady przejrzystości i zarządzania ryzykiem dla systemów AI.
Przy 84 głosach „za”, 7 sprzeciwiających się oraz 12 – wstrzymujących się, w czwartek 11 maja Komisja Rynku Wewnętrznego i Komisja Wolności Obywatelskich przyjęły mandaty negocjacyjne dotyczące projektu regulacji sztucznej inteligencji (tzw. AI Act)
Zanim rozpoczną się negocjacje z Radą w sprawie ostatecznego kształtu ustawy, projekt mandatu negocjacyjnego musi zostać zatwierdzony przez cały Parlament. Głosowanie w tej sprawie może odbyć się w czasie sesji plenarnej, planowanej na 12-15 czerwca br.
Posłowie Parlamentu Europejskiego mają dążyć do przepisów, które sprawią, że systemy AI będą nadzorowane przez ludzi, „bezpieczne, przejrzyste, identyfikowalne, niedyskryminujące i przyjazne dla środowiska”. Celem ma być również jednolita definicja AI – „neutralna pod względem technologicznym” – oraz by była dopasowana zarówno do obecnych, jak i przyszłych systemów AI.
Akt o sztucznej inteligencji będzie pierwszym tego typu dokumentem na świecie, który – jak czytamy w komunikacie PE – przewiduje m.in. zakaz nadzoru biometrycznego, rozpoznawania emocji, predykcyjnych systemów sztucznej inteligencji; dostosowanie takich modeli jak GPT do „ogólnego przeznaczenia” czy prawo do składania skarg dotyczących systemów SI.
W regulacjach chodzi przede wszystkim o to, by zapewnić etyczny rozwój sztucznej inteligencji w Europie, podczas gdy wyścig o najlepsze modele AI trwa i z dnia na dzień tylko nabiera tempa.
Przepisy m.in. zakładają podejście oparte na analizie ryzyka SI i obowiązkach dostawców oraz użytkowników. Surowo zabronione mają być np. „systemy, które wykorzystują techniki podprogowe lub celowo manipulacyjne, wykorzystują podatności ludzi na zagrożenia lub są wykorzystywane do oceny społecznej”. Chodzi m.in. o uniknięcie dyskryminacji i klasyfikacji ludzi na podstawie ich statusu czy też cech.
Posłowie do PE znacząco zmienili listę, aby zawierała zakazy natrętnego i dyskryminującego wykorzystania systemów sztucznej inteligencji, takie jak:
– Posłowie rozszerzyli klasyfikację obszarów wysokiego ryzyka o szkody dla zdrowia ludzi, bezpieczeństwa, praw podstawowych lub środowiska.
– Do listy wysokiego ryzyka dodali również systemy sztucznej inteligencji, które miałyby wpływać na wyborców w kampaniach politycznych i w systemach rekomendacji używanych przez platformy mediów społecznościowych (z ponad 45 milionami użytkowników na mocy ustawy o usługach cyfrowych ).
– Posłowie uwzględnili obowiązki dostawców modeli podstawowych – nowego i szybko rozwijającego się rozwoju w dziedzinie sztucznej inteligencji – którzy musieliby gwarantować solidną ochronę praw podstawowych, zdrowia i bezpieczeństwa oraz środowiska, demokracji i rządów prawa. Musieliby oceniać i ograniczać ryzyko, spełniać wymogi projektowe, informacyjne i środowiskowe oraz rejestrować się w unijnej bazie danych.
– Generatywne modele podstawowe, takie jak GPT, musiałyby spełniać dodatkowe wymagania dotyczące przejrzystości, takie jak ujawnienie, że treść została wygenerowana przez sztuczną inteligencję, zaprojektowanie modelu w taki sposób, aby uniemożliwić generowanie nielegalnych treści i publikowanie podsumowań chronionych prawem autorskim danych wykorzystywanych do szkolenia.
– Aby zwiększyć innowacyjność sztucznej inteligencji, posłowie do PE dodali wyjątki od tych zasad dotyczące działań badawczych i komponentów sztucznej inteligencji dostarczanych na licencji open source.
– Posłowie chcą zwiększyć prawo obywateli do składania skarg na systemy AI i otrzymywać wyjaśnienia decyzji opartych na systemach AI wysokiego ryzyka, które znacząco wpływają na ich prawa. Posłowie zreformowali również rolę Biura UE ds. AI, którego zadaniem byłoby monitorowanie wdrażania zbioru przepisów dotyczących sztucznej inteligencji.
Po głosowaniu współsprawozdawca Brando Benifei (S&D, Włochy) powiedział: „Jesteśmy o krok od wprowadzenia w życie przełomowych przepisów, które muszą sprostać wyzwaniu czasu. Kluczowe znaczenie ma budowanie zaufania obywateli do rozwoju sztucznej inteligencji, wyznaczenie europejskiego sposobu radzenia sobie z nadzwyczajnymi zmianami, które już zachodzą, a także ukierunkowanie debaty politycznej na temat sztucznej inteligencji na poziomie globalnym. Jesteśmy przekonani, że nasz tekst równoważy ochronę praw podstawowych z potrzebą zapewnienia przedsiębiorstwom pewności prawa i stymulowania innowacji w Europie”.
Współsprawozdawca Dragos Tudorache (Renew, Rumunia) powiedział: „Biorąc pod uwagę głęboki transformacyjny wpływ sztucznej inteligencji na nasze społeczeństwa i gospodarki, ustawa o sztucznej inteligencji jest najprawdopodobniej najważniejszym aktem prawnym w tej kadencji. Jest to pierwszy akt prawny tego rodzaju na świecie, co oznacza, że UE może przewodzić w tworzeniu sztucznej inteligencji, która będzie skoncentrowana na człowieku, godna zaufania i bezpieczna. Pracowaliśmy na rzecz wspierania innowacji w zakresie sztucznej inteligencji w Europie oraz zapewnienia start-upom, MŚP i przemysłowi przestrzeni do rozwoju i innowacji, przy jednoczesnej ochronie praw podstawowych, wzmocnieniu demokratycznego nadzoru i zapewnieniu dojrzałego systemu zarządzania i egzekwowania sztucznej inteligencji”.
Zanim rozpoczną się negocjacje z Radą w sprawie ostatecznego kształtu ustawy, projekt mandatu negocjacyjnego musi zostać zatwierdzony przez cały Parlament, a głosowanie spodziewane jest na sesji 12-15 czerwca.
