Niezablokowane reklamy i erotyczne deepfake’i. Kolejne luki w działaniu Mety

Meta, mimo deklarowanych blokad i rygorystycznych regulaminów, po raz kolejny nie radzi sobie z moderowaniem niedozwolonych treści, za powstanie których odpowiada sztuczna inteligencja. Na platformach należących do koncernu pojawiły się reklamy aplikacji służących do tworzenia pornograficznych deepfake’ów.

Podstępy w reklamach

Na Facebooku i Instagramie opublikowano materiały promocyjne aplikacji erotycznych, które wykorzystywały proste, ale skuteczne oszustwo. Aby systemy moderacji nie zdołały odczytać nieprawidłowości, jako miniaturki filmów reklamowych zastosowano całkowicie neutralne widoki, takie jak krajobrazy górskie, plaże czy wodospady. Dopiero w dalszej części wideo pokazywano wygenerowane przez AI treści pornograficzne.

W jednym z tego rodzaju spotów wykorzystano wizerunek kobiety, która łudząco przypominała znaną amerykańską polityczkę. Początkowo jej postać stała na tle państwowej flagi, ale za chwilę nagranie zmieniło się w erotyczny deepfake. Wspomniana kampania obejmowała aż 32 takie reklamy, które targetowano tylko do mężczyzn. Profile dystrybuujące nagrania powstały zaledwie kilka dni przed ich opublikowaniem. Materiały krążyły w sieci od kilku do kilkudziesięciu godzin, przez co zdążyły dotrzeć do szerokiego grona odbiorców.

Luki także w App Store

Aplikacja generująca pornograficzne deepfake’i dostępna była do pobrania w oficjalnym sklepie Apple. Ukryto ją pod niewinnie wyglądającym narzędziem do graficznej obróbki zdjęć. Prawdopodobnie zakazane funkcje dodano do niej już po przejściu procesu weryfikacji.

Reakcja Apple oraz Mety nastąpiła jednak dopiero po interwencji dziennikarzy portalu Wired, co tylko udowodniło, jak niewydolne są automatyczne algorytmy koncernów, które bez nadzoru człowieka nie są w stanie skutecznie filtrować nielegalnych materiałów.

Muzyka z AI wchodzi do sklepów. Wszystko po to, by obniżyć koszty licencji

Walka z wiatrakami?

Problem z brakiem należytej kontroli reklam wielokrotnie podkreślał już Rafał Brzoska, walczący od miesięcy z wykorzystywaniem jego wizerunku w fałszywych kampaniach na platformach Mety. Przedsiębiorca uruchomił nawet inicjatywę „150%”, której główny postulat mówi o ponoszeniu konsekwencji finansowych za emisję scamu. Postulat jest prosty: jeśli platforma zarabia na emisji scamu, powinna ponieść konsekwencję finansową odpowiadającą 150% uzyskanego z niej przychodu.

Meta z tłumaczeniami

Meta tłumaczy sytuację szybkością działań cyberprzestępców, którzy stale modyfikują swoje metody, oraz zapewnia, że rozwija kolejne mechanizmy wykrywania tego rodzaju naruszeń. Skala jest jednak ogromna – tylko na przestrzeni kilku miesięcy koncern musiał usunąć ponad 344 tysiące materiałów powiązanych z nielegalnym generowaniem nagości.

Równolegle korporacja starała się już walczyć także na drodze sądowej. Meta złożyła w czerwcu br. pozew przeciwko Joy Timeline HK Limited – podmiotowi odpowiedzialnemu za aplikacje Crushai, służące do rozbierania ludzi na zdjęciach.

PS Meta AI zoptymalizuje kampanie i doradzi w biznesie

PS2 Meta wycofuje skargi na decyzję UODO ws. fałszywych reklam z Rafałem Brzoską i Omeną Mensah