Ten krój pisma mówi co innego ludziom, a co innego sztucznej inteligencji

Za eksperyment odpowiada Mixfont, projekt rozwijany przez Erica Lu. Krój można pobrać jako zwykły plik TTF, zainstalować na komputerze i używać podobnie jak innych fontów. Nie jest więc wyłącznie internetową demonstracją przygotowaną na potrzeby jednego filmu lub grafiki.

Dwie litery zajmują to samo miejsce

Każdy znak w Decoy Font składa się z dwóch nałożonych elementów. Na pierwszym planie znajduje się cienki, wyraźny kontur tworzący literę-pułapkę. Pod nim umieszczono rozmyty kształt odpowiadający właściwemu znakowi.

Z bliska łatwiej dostrzec ostre linie. Po zmniejszeniu obrazu, odsunięciu się od monitora lub zmrużeniu oczu wyraźniejsza staje się ukryta wiadomość. Mixfont zakłada, że modele analizujące obraz skoncentrują się na precyzyjnie zarysowanych konturach i odczytają fałszywy tekst.

Sprawdź Decoy Font i przygotuj własny komunikat.

W przykładach opublikowanych przez autora systemy ChatGPT i Gemini wskazywały komunikat-pułapkę zamiast tekstu przeznaczonego dla człowieka. Są to jednak testy przygotowane przez twórcę rozwiązania, a nie niezależne badanie skuteczności fontu na większej liczbie modeli i ustawień.

LEGO odtwarza automat Donkey Kong. Zestaw ma działające beczki i joystick

Einstein z bliska, Marilyn Monroe z daleka

Mechanizm Decoy Font opiera się na technice obrazów hybrydowych. Łączą one elementy widoczne przy różnych częstotliwościach przestrzennych, dzięki czemu ten sam obraz można interpretować inaczej w zależności od odległości.

Najbardziej znany przykład przedstawia Alberta Einsteina oglądanego z bliska i Marilyn Monroe widoczną z większej odległości. Technikę opisali Aude Oliva, Antonio Torralba i Philippe Schyns w pracy zaprezentowanej podczas SIGGRAPH. Mixfont zastosował tę samą zasadę do poszczególnych liter.

Decoy bazuje na otwartym kroju DejaVu Sans Mono. Plik jest dostępny bezpłatnie do użytku osobistego, komercyjnego oraz w projektach realizowanych dla klientów. Na stronie eksperymentu można także wpisać właściwy i fałszywy komunikat, a następnie pobrać gotowy obraz.

Przeszkoda dla AI, ale nie szyfr

Twórca nie przedstawia Decoy Font jako pewnego zabezpieczenia. Model wyposażony w narzędzia do obróbki grafiki może zmniejszyć obraz, rozmyć go lub otrzymać polecenie wyszukania ukrytych kształtów. W takich warunkach właściwy tekst może zostać odczytany.

Krój jest więc raczej sposobem na utrudnienie automatycznego zbierania treści niż metodą ochrony poufnych danych. Mixfont wskazuje potencjalne zastosowania w CAPTCHA, prywatnych wiadomościach i testach porównujących zdolności modeli do rozpoznawania tekstu.

Na razie Decoy pozostaje przede wszystkim typograficzną pułapką: człowiek musi zmrużyć oczy, a maszyna — wiedzieć, że ktoś próbuje ją oszukać.

Źródła: Mixfont, CreaPills, ACM SIGGRAPH