Użytkownicy TikToka muszą oznaczać filmy zawierające deepfake

fot. depositphotos.com

TikTok poinformował niedawno o zaktualizowaniu swoich Zasad Społeczności, które mają chronić bezpieczeństwo użytkowników, a także usprawnić prace moderatorów treści. Oprócz zapisów dotyczących mowy nienawiści, treści seksualnych czy kwestii związanych z kontami rządowymi, Zasady traktują również o sztucznej inteligencji.

W odświeżonym regulaminie, który wejdzie w życie 21 kwietnia, znajdzie się zapis dotyczący „mediów syntetycznych”. Są to treści generowane lub edytowane przy użyciu zaawansowanych algorytmów AI. Tym samym TikTok postanowił uregulować kwestie związane ze zjawiskiem wykorzystywania deepfake’ów, które coraz częściej pojawiają się w aplikacji.

Wcześniej zasady serwisu mówiły jedynie o zakazie szerzenia treści, które mogły „fałszywie przedstawiać prawdę o wydarzeniach lub wyrządzić znaczną szkodę uczestnikom wideo”. Teraz firma idzie o krok dalej.  Według nowych zasad, informacje o tym, że jakakolwiek treść wideo została wygenerowana czy zmodyfikowana przez sztuczną inteligencję, powinny być wyraźnie ujawnione. Stosowne oznaczenia powinny pojawić się w podpisie wideo lub w postaci specjalnej naklejki przy poście.

Ponadto zabronione jest wykorzystywanie deepfake’ów, które „zostały stworzone w taki sposób, aby wprowadzić ludzi w błąd odnośnie do rzeczywistych wydarzeń”.

WhatsApp zacznie pobierać opłaty za odpowiedzi firm. Zmiany od października

W Zasadach Społeczności czytamy również, że serwis nie zezwala na syntetyczne media, „które w jakikolwiek sposób przypominają dowolną prawdziwą osobę (wizualnie lub dźwiękowo), w tym: osobę niepełnoletnią, prywatną osobę dorosłą lub osobę dorosłą działającą w sektorze publicznym w przypadku wykorzystania jej wizerunku do celów politycznych lub handlowych, lub jeśli takie media naruszają jakiekolwiek inne zasady”.

Nie oznacza to jednak, że syntetyczne media są całkowicie zabronione na platformie. Dozwolone są materiały, które przedstawiają „osobę publiczną w określonych okolicznościach, w tym treści artystyczne lub edukacyjne, takie jak film pokazujący znaną osobę wykonującą popularny taniec na TikToku lub postać historyczną w kontekście historycznym”.

W ostatnim czasie na TikToku wyraźnie wzrosła obecność filmów generowanych przy użyciu technologii deepfake. Rozwiązanie, które z jednej strony pozwala na tworzenie kreatywnych, oryginalnych i wciągających treści, niesie ze sobą również wiele niebezpieczeństw.

Powszechny dostęp do narzędzi sztucznej inteligencji sprawia, że media społecznościowe zalewają nagrania, w których wykorzystuje się wizerunki wpływowych osób w celu szerzenia fałszywych informacji, wpływania na opinię publiczną, ośmieszania czy zastraszania. Dlatego niezbędne jest wprowadzanie odpowiednich regulacji i skutecznej weryfikacji szkodliwych treści.

PS. Deepfake w pouczającej kampanii Dove

Marka kosmetyczna przeprowadziła eksperyment społeczny z wykorzystaniem technologii deepfake, aby ujawnić młodym ludziom niebezpieczeństwa związane z toksycznymi poradami w social mediach.