Rozwój sztucznej inteligencji budzi wiele kontrowersji w związku z bezpieczeństwem najmłodszych użytkowników. Rośnie nie tylko presja społeczna w tym temacie, ale również liczba pozwów związanych z potencjalnymi zagrożeniami związanymi z korzystania z narzędzi AI. W związku z tym, OpenAI uruchamia „ChatGPT for Teens” – opcję stworzoną specjalnie z myślą o osobach w wieku 13-17 lat.
AI oceni wiek użytkownika
Standardowe deklaracje podczas rejestracji bywają zawodne, dlatego jednym z najważniejszych mechanizmów nowego trybu ChatGPT będzie algorytm odpowiedzialny za przeprowadzenia analizy wieku. Ma ona skupiać się na weryfikowaniu opartym na analizie zachowań. System dokona oceny m.in. na podstawie nawyków cyfrowych, pór aktywności czy specyfiki poruszanych tematów
Zobacz również
W momencie, gdy algorytm wykryje, że z narzędzia korzysta osoba niepełnoletnia, automatycznie aktywuje się pakiet ochronny. W przypadku, jeśli użytkownik zostanie źle zaklasyfikowany, przewidziano ścieżkę weryfikacyjną. Wdrożenie tej opcji na terenie Unii Europejskiej ma odbywać się w pełnej zgodności z lokalnymi regulacjami prawnymi.
Koniec z budowaniem emocjonalnych relacji
Model skierowany dla nastolatków będzie charakteryzował się także selekcją generowanych treści. Oprócz blokady materiałów zawierających przemoc, autogresję, zaburzenia odżywiania czy wątki erotyczne, oprogramowanie ma unikać tworzenia więzi sprawiających wrażenie relacji uczuciowych. Chatbot nie będzie zatem pełnił roli przyjaciela, ale pozostanie po prostu cyfrowym asystentem.
Wprowadzone zostaną również komunikaty ostrzegawcze przed wysyłaniem prywatnych i wrażliwych fotografii, co ma uchronić nastolatków przed pochopnym udostępnianiem danych w sieci.
Google Maps jak agent AI. Zamówi jedzenie, zarezerwuje hotel i przeanalizuje skrzynkę mailową
Narzędzia higieny cyfrowej oraz kontroli dla rodziców
„ChatGPT for Teens” ma zadbać także o higienę cyfrową. Wśród zmian pojawią się:
Słuchaj podcastu NowyMarketing
- komunikat z sugestią odpoczynku, gdy w ciągu 3 godzin czas interakcji przekroczy 90 minut,
- opcja blokująca dostęp do chatbota w wybranych przedziałach czasowych (np. w nocy),
- tryb ukierunkowany na edukację, w którym AI zamiast podać gotowe odpowiedzi, poprowadzi użytkownika krok po kroku przez proces rozwiązywania problemu.
Rodzice i opiekunowie zyskają z kolei możliwość zarządzania wybranymi opcjami profilu dziecka – w tym historią konwersacji, pamięcią czy generatorem grafik. Zgodnie z wytycznymi dotyczącymi prywatności, nie otrzymają jednak wglądu w pełną treść rozmów, zostaną natomiast powiadomieni w sytuacji wykrycia przez system kryzysu emocjonalnego lub zagrożenia zdrowotnego.
