Polska technologia pomoże wykrywać internetowy scam. Brzoska uruchamia ScamWatch

Trwająca kampania Rafała Brzoski „150%” wchodzi w kolejny etap. Tym razem przedsiębiorca pokazuje, że problem scamu można nie tylko nagłaśniać, ale również wykrywać i dokumentować na dużą skalę. Wszystko z wykorzystaniem polskiej technologii. Ogłoszono uruchomienie ScamWatch, który pozwoli identyfikować i gromadzić tego rodzaju fałszywe materiały, które następnie zostaną przekazane platformom jako gotowy materiał do reakcji. Rozwiązanie stworzył Sebastian Kondracki wraz z zespołem czołowych polskich ekspertów AI, tworzących startup Augurium.

Jak działa narzędzie

• Użytkownik za pośrednictwem specjalnej strony może zgłosić podejrzaną reklamę przez krótki formularz.
• Zgłoszenie jest analizowane przy wsparciu ekspertów Rafał Brzoska Foundation.
• Uruchomiony licznik mierzy, jak długo reklama pozostaje dostępna.
• Zgłoszenie trafia do platformy, a ScamWatch monitoruje czas jego usunięcia.

System nie opiera się na jednym modelu „scam czy nie scam”. Zestaw agentów AI analizuje m.in. obraz, tekst, domenę, infrastrukturę i powiązania między kampaniami. Dzięki temu może identyfikować całe rodziny reklam należących do tej samej operacji i dokumentować przesłanki analizy.

– Stworzyliśmy system będący w praktyce autonomiczną fabryką agentów, który pozwala dostarczyć platformom dowód, a nie kolejny sygnał do sprawdzenia. W rozwiązaniu opracowanym przez inżynierów z Augurium pozwalamy połączyć wiele elementów reklamy i jej otoczenia w jeden możliwy do zweryfikowania obraz. To właśnie ta zdolność do łączenia faktów pozwala przejść od pojedynczego scamu do identyfikacji całej operacji – wskazuje Sebastian Kondracki.

– Nie chcemy budować kolejnej platformy. Chcemy pokazać, że to, czego Meta dziś nie robi skutecznie, można zrobić technologicznie i to przy wykorzystaniu polskiej technologii. Jeśli mały zespół jest w stanie zobaczyć i udokumentować całe fabryki scamów, platforma dysponująca nieporównywalnie większymi zasobami tym bardziej powinna potrafić to robić. Dzisiaj robimy za Metę to, co Meta powinna bezwzględnie robić sama. To nie jest cel sam w sobie. Chcemy doprowadzić do sytuacji, w której nasze działania przestaną być potrzebne, bo platformy zaczną wreszcie skutecznie chronić swoich użytkowników przed scamami, a nie czerpać zyski, ignorując problem – mówi Rafał Brzoska.

Co pokazują analizy oszustw internetowych

Okazuje się, że scamy nie poruszają najczęściej abstrakcyjnych tematów. Oszuści kradną bowiem najbardziej rozpoznawalne marki, media i twarze, a następnie wykorzystują je do budowania wiarygodności fikcyjnego przekazu. W analizowanych materiałach wykorzystywane są wizerunki ogólnopolskich mediów takich jak TVN24, Gazeta.pl czy wPolsce24, a także firm i instytucji – LOTTO, PKO BP, PGE, Allegro, InPost, NFZ czy Poczty Polskiej.

Walkman wrócił. Tym razem na składanym iPhonie

Fałszywe paski, nagłówki, logotypy i studia mają zastąpić wiarygodność. Osoby publiczne stają się rzekomymi ambasadorami inwestycji i usług, których nigdy nie firmowały. AI dodatkowo skaluje ten mechanizm. Deepfake twarzy i głosu pozwala szybko tworzyć i powielać wiarygodnie wyglądającą fikcję.

Scam uderza także w dzieci

Analiza pokazuje również, że problem wykracza daleko poza straty finansowe firm. Scam uderzają również w dzieci, które przypadkowo mogą zobaczyć reklamę informującą o śmierci rodzica. Pornografia i seksualizujące deepfake’i mogą pojawić się także obok normalnych treści, a reklamy narzędzi typu „wgraj zdjęcie i rozbierz osobę” mogą z kolei promować seksualizowanie wizerunku koleżanki, nauczycielki czy sąsiadki.

Regulacja jest, ale odpowiedzialność ginie po drodze

Mimo, że akt o usługach cyfrowych (DSA) nałożył nowe obowiązki na duże platformy internetowe już we wrześniu 2023 roku – dało to przejrzystość jedynie na papierze. Problem zaczyna się wtedy, gdy rozpoczynane są próby ustalenia tego, kto rzeczywiście stoi za reklamą i co zobaczyła ofiara. Informacja o płatniku nie zawsze prowadzi do faktycznego sprawcy, reklama może zniknąć, zanim zostanie zabezpieczona, a dostępne dane często wymagają ręcznego odtworzenia zamiast systemowej analizy.

Największa luka nie musi być więc w samym przepisie. Jest między przepisem a rzeczywistością.

– Dzisiaj problemem nie jest brak pojedynczych danych, ale brak możliwości połączenia ich w jeden, możliwy do zweryfikowania obraz. Jeśli chcemy identyfikować całe operacje scamowe, musimy analizować jednocześnie reklamę, jej treść, domenę, infrastrukturę i powiązania z innymi kampaniami. Technologia może tę lukę wypełnić, ale nie powinna zastępować odpowiedzialności platform ani regulacji – mówi Sebastian Kondracki, prezes Bielik.AI i założyciel Augurium.

źródło: mat. prasowe, opracowanie: Agata Drynko

PS „Szukajcie nowej pracy”. Rafał Brzoska ponownie walczy z fake newsami i oskarża polskie kierownictwo Mety

PS2 Meta wycofuje skargi na decyzję UODO ws. fałszywych reklam z Rafałem Brzoską i Omeną Mensah