UE przyjęło projekt „etycznego rozwoju” AI - NowyMarketing

W głosowaniu wzięli udział członkowie Komisji Rynku Wewnętrznego i Ochrony Konsumentów oraz Komisji Wolności Obywatelskich, Sprawiedliwości i Spraw Wewnętrznych Parlamentu Europejskiego. Głosowano za przyjęciem projektu mandatu negocjacyjnego w sprawie przepisów dotyczących funkcjonowania sztucznej inteligencji. Projekt został przyjęty dzięki wynikom: 84 głosy za, 7 głosów przeciw i 12 głosów wstrzymujących się.

Posłowie chcieliby, aby dzięki regulacji systemy sztucznej inteligencji były nadzorowane przez ludzi i spełniały takie czynniki jak, m.in. bezpieczeństwo, przejrzystość, identyfikowalność, brak dyskryminacji czy przyjazność dla środowiska. Dodatkowo, ich zdaniem powinna pojawić się jedna spójna definicja sztucznej inteligencji, która byłaby neutralna technologicznie oraz dostosowana do współczesnych i przyszłych systemów AI.

Zobacz również

– Jesteśmy o krok od wprowadzenia w życie przełomowych przepisów, które muszą sprostać wyzwaniu czasu. Kluczowe znaczenie ma budowanie zaufania obywateli do rozwoju sztucznej inteligencji, wyznaczenie europejskiego sposobu radzenia sobie z nadzwyczajnymi zmianami, które już zachodzą, a także ukierunkowanie debaty politycznej na temat sztucznej inteligencji na poziomie globalnym. Jesteśmy przekonani, że nasz tekst równoważy ochronę praw podstawowych z potrzebą zapewnienia przedsiębiorstwom pewności prawa i stymulowania innowacji w Europie – powiedział współsprawozdawca Brando Benifei (S&D, Włochy).

– Biorąc pod uwagę głęboki transformacyjny wpływ sztucznej inteligencji na nasze społeczeństwa i gospodarki, ustawa o sztucznej inteligencji jest najprawdopodobniej najważniejszym aktem prawnym w tej kadencji. Jest to pierwszy akt prawny tego rodzaju na świecie, co oznacza, że UE może przewodzić w tworzeniu sztucznej inteligencji, która będzie skoncentrowana na człowieku, godna zaufania i bezpieczna. Pracowaliśmy na rzecz wspierania innowacji w zakresie sztucznej inteligencji w Europie oraz zapewnienia start-upom, MŚP i przemysłowi przestrzeni do rozwoju i innowacji, przy jednoczesnej ochronie praw podstawowych, wzmocnieniu demokratycznego nadzoru i zapewnieniu dojrzałego systemu zarządzania i egzekwowania sztucznej inteligencji – dodał Dragos Tudorache (Odnówmy Europę, Rumunia).

Posłowie chcą, by użytkownicy mogli składać skargi na systemy AI oraz otrzymywać wyjaśnienia decyzji wygenerowanych przez sztuczną inteligencję, szczególnie tych wysokiego ryzyka, które wpływają na ich prawa.

#PrzeglądTygodnia [05.11-12.11.24]: kampanie z okazji Movember, suszonki miesiąca, mindfulness w reklamach

Posłowie rozbudowali także rolę Biura ds. AI, które miałoby za zadanie monitorować wdrażanie nowych przepisów związanych ze sztuczną inteligencją.

Słuchaj podcastu NowyMarketing

Czego dotyczy projekt „etycznego rozwoju” sztucznej inteligencji?

Przede wszystkim warto zaznaczyć, że projekt ustawy opiera się na ryzyku, jakie może stwarzać AI. Na tej podstawie spisano, m.in. obowiązki dostawców i użytkowników. Surowo zabronione byłyby systemy, które posiadałyby niedopuszczalny poziom niebezpieczeństwa, np. te, które wykorzystują techniki podprogowe lub manipulacyjne.

Na liście zakazanych systemów znalazły się między innymi:

systemy zdalnej identyfikacji biometrycznej „w czasie rzeczywistym” w miejscach publicznie dostępnych
„post” systemy zdalnej identyfikacji biometrycznej, z wyjątkiem organów ścigania w celu ścigania poważnych przestępstw i tylko po uzyskaniu zezwolenia sądu;
systemy kategoryzacji biometrycznej wykorzystujące wrażliwe cechy (np. płeć, rasę, pochodzenie etniczne, obywatelstwo, religię, orientację polityczną)
predykcyjne systemy policyjne (oparte na profilowaniu, lokalizacji lub przeszłych zachowaniach przestępczych)
systemy rozpoznawania emocji w organach ścigania, zarządzaniu granicami, miejscu pracy i instytucjach edukacyjnych
bezkrytyczne pobieranie danych biometrycznych z mediów społecznościowych lub nagrań z monitoringu w celu tworzenia baz danych rozpoznawania twarzy (naruszając prawa człowieka i prawo do prywatności).

Klasyfikacja obszarów wysokiego ryzyka została rozszerzona o szkody dla zdrowia, ludzi, bezpieczeństwa, praw podstawowych i środowiska. Nie zapomniano także o systemach, które mają wpływać na wyborców podczas kampanii politycznych, również w mediach społecznościowych.

Obowiązki dostawców systemów sztucznej inteligencji

Posłowie uwzględnili w projekcie ustawy obowiązki dostawców modeli opartych o AI i uznali, że powinni zapewnić ochronę praw podstawowych, zdrowia, bezpieczeństwa, środowiska, demokracji i rządów prawa. Dodatkowo, takie modele powinny być zarejestrowane w bazie danych UE.

Ponadto, modele generatywne AI musiałyby spełniać dodatkowe wymagania, tj. jawnie informować o tym, że dana treść została wygenerowana przez sztuczną inteligencję oraz zaprojektować model w taki sposób, by nie generować treści nielegalnych albo chronionych prawem autorskim.

Unia Europejska wspiera innowacje

Pomimo planowania nowych regulacji, w projekcie ustawy nie zabrakło miejsca na wytyczne związane z dbaniem o rozwój sztucznej inteligencji. Do niektórych zasad dodano wyjątki, np. do zasad, które dotyczą działań badawczych i komponentów AI dostarczanych na licencji open source. Nowe prawo promuje również sandboxy czy środowiska kontrolowane tworzone przez władze publiczne, które testują AI przed wdrożeniem.

Projekt mandatu negocjacyjnego musi zostać zatwierdzony przez Parlament Europejski, wówczas będą mogły rozpocząć się konsultacje z Radą w kwestii ostatecznego kształtu ustawy. Głosowanie ma się odbyć między 12 a 15 czerwca br.

PS Metaverse – fikcja czy rzeczywistość? Perspektywy marketingowe (nagranie z webinaru)

Pojęcie metaverse przenika z fikcji do rzeczywistości. Ale czy to tylko kolejny chwyt marketingowy? O tym rozmawialiśmy podczas naszego webinaru z Wiktorią Wójcik z inStreamly, Jakubem Kaszubą z PKO Banku Polskiego i Tomaszem Przeździeckim z _game changer. Zobacz nagranie!

PS 2 Google prezentuje nowe możliwości AI. Zmiany obejmą chatbot Bard, Gmail i Google Maps

Podczas konferencji Google I/O przedstawiono kolejne sposoby wykorzystania sztucznej inteligencji, dzięki którym Google chce ulepszyć swoje produkty. Nowości dotyczą m.in. możliwości zadawania wyszukiwarce szczegółowych pytań, które do tej pory wymagały wpisywania więcej niż jednego zapytania.