Rozwój AI stawia poważne wyzwania w kontekście bezpieczeństwa cyfrowego młodzieży. Meta wykonuje kolejny krok w stronę ochrony nieletnich i reaguje na rosnące obawy dotyczące wpływu algorytmów na zdrowie psychiczne. W ramach najnowszej aktualizacji gigant technologiczny zapowiedział wdrożenie nowych mechanizmów, które mają zapobiegać niebezpiecznym sytuacjom i dać rodzicom większą kontrolę nad interakcjami ich dzieci z Meta AI.
Alerty dotyczące kryzysu psychicznego
Meta wprowadzi między innymi rozwiązanie dla osób korzystających z funkcji nadzoru rodzicielskiego w aplikacji Instagram. W przypadku, gdy konwersacja prowadzona z AI przez nieletniego wykaże, że może on znajdować się w kryzysie psychicznym lub rozważać działania zagrażające własnemu zdrowiu i życiu, opiekunowie natychmiast otrzymają odpowiedni alert. Do wiadomości dołączane będą także profesjonalne wskazówki pomocne w podjęciu wrażliwego dialogu z dzieckiem.
Zobacz również
Aby uniknąć błędnych interpretacji i niepotrzebnego wywoływania niepokoju, opracowano specjalny moduł AI wyspecjalizowany w wykrywaniu nawet subtelnych odniesień do samookaleczeń. Wszystkie wyłapane przez algorytm przypadki są dodatkowo weryfikowane przez ludzi. Meta zastrzega jednak, że w sytuacjach dwuznacznych priorytetem pozostaje bezpieczeństwo, dlatego rodzice mogą czasami otrzymać sygnał ostrzegawczy zapobiegawczo.
Nowa grupa robocza w POR zajmie się sztuczną inteligencją
Nowość działa już m.in. w USA oraz Wielkiej Brytanii, a jej globalne wdrożenie zaplanowano do końca bieżącego roku.
Słuchaj podcastu NowyMarketing
Konsultacje branżowe i zmiana reakcji AI
Proces projektowania nowych zabezpieczeń oparto na opinii kilkudziesięciu niezależnych ekspertów oraz psychiatrów dziecięcych. Przeanalizowali oni liczne scenariusze dialogowe pod kątem ich adekwatności do wieku odbiorcy.
W efekcie tych prac zmodyfikowano sposób reakcji asystenta AI. Zamiast natychmiastowego blokowania czatu w trudnych momentach, sztuczna inteligencja została przeszkolona tak, aby wykazywać się empatią, nazywać emocje rozmówcy i nakłaniać go do szukania pomocy w świecie rzeczywistym – u bliskich lub na specjalistycznych infoliniach.
Wprowadzone innowacje to kolejny krok w stronę zwiększenia transparentności działań nieletnich w sieci. Dają one opiekunom stały podgląd na spektrum zagadnień, jakimi młodzi użytkownicy interesują się w sieci.