Sztuczna inteligencja ma coraz większe możliwości. Twórcy technologii i publiczne instytucje badawcze z różnych krajów muszą za nimi nadążać, dlatego często łączą siły, by lepiej rozumieć ryzyko i opracowywać skuteczniejsze zabezpieczenia. Taka współpraca już przynosi efekty. Wspólne działania OpenAI z amerykańskim Center for Advancing Standards and Innovation for Super Intelligence (CAISSI), brytyjskim AI Security Institute (AISI) i innymi publicznymi instytucjami badawczymi pomogły wykryć i usunąć luki w agentach i modelach AI. Przyczyniły się też do poprawy bezpieczeństwa najbardziej zaawansowanych modeli. Teraz do tego grona dołącza Polska.
Po stronie NASK współpracę poprowadzi Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji, który pełni funkcję polskiego Instytutu Bezpieczeństwa Sztucznej Inteligencji (AISI). Wspólnie z OpenAI będzie badać bezpieczeństwo coraz bardziej zaawansowanych systemów AI. Przeprowadzane analizy pomogą lepiej oceniać te systemy, wykrywać ich słabe punkty i wzmacniać zabezpieczenia.
Zobacz również
– Bezpieczeństwa AI nie da się zapewnić w pojedynkę. Dlatego współpraca z OpenAI to ważny krok dla NASK i naszego Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji. Tym bardziej, że to jedyna taka umowa w Unii Europejskiej, co jest dla nas ważnym wyróżnieniem i docenieniem kompetencji naszych specjalistów. Badamy nowe zagrożenia, rozwijamy zabezpieczenia i pracujemy nad wykrywaniem treści generowanych przez AI. Sprawdzamy też, jak sztuczna inteligencja może służyć do szkodliwych działań i jak te zagrożenia różnią się w zależności od języka rozmowy. Współpraca z OpenAI pozwoli nam połączyć wiedzę badawczą z doświadczeniem w rozwoju najbardziej zaawansowanych modeli. Dzięki niej będziemy mogli wcześniej rozpoznawać zagrożenia i skuteczniej im przeciwdziałać. Tak buduje się również społeczne zaufanie do AI – poprzez konkretne działania na rzecz jej bezpieczeństwa – mówi dyrektor instytutu, Radosław Nielek.
– Polska ma znakomitych naukowców i wyjątkowe talenty technologiczne. Mają one swój udział także w badaniach prowadzonych w OpenAI. AI ma coraz większe możliwości, dlatego potrzebujemy również spojrzenia z zewnątrz. Pomaga nam ono weryfikować nasze założenia, testować systemy i wzmacniać zabezpieczenia. Dzięki porozumieniu z NASK możemy robić to wspólnie i korzystać z polskiego dorobku badawczego w międzynarodowych pracach nad bezpieczeństwem AI – dodaje Tom Duff Gordon, wiceprezes i szef polityki publicznej na region EMEA.
Bezpieczna AI wymaga wspólnych zasad
OpenAI zaapelowało o współpracę Stanów Zjednoczonych z innymi krajami nad międzynarodowymi standardami technicznymi dla najbardziej zaawansowanych systemów AI. W ich opracowaniu mają pomóc instytuty bezpieczeństwa AI i organizacje normalizacyjne. Wspólne zasady oceny możliwości AI, analizy ryzyka, testowania zabezpieczeń i zgłaszania incydentów ułatwią krajom porównywanie wyników i reagowanie na zagrożenia ponad granicami.
Google Cloud udostępnia klientom rozszerzony wybór modeli AI
NASK wnosi do tych prac polską wiedzę z badań nad bezpieczeństwem AI, którą na co dzień wykorzystuje do ochrony usług publicznych i polskiej przestrzeni informacyjnej. Udział krajowych partnerów pomaga tworzyć standardy, które odpowiadają na konkretne zagrożenia i uwzględniają lokalne warunki korzystania z AI.
Słuchaj podcastu NowyMarketing
Współpraca, która już przynosi efekty
Podpisane właśnie porozumienie to kolejny etap współpracy NASK z OpenAI. W lipcu zespół CERT Polska, który działa w strukturach instytutu, otrzymał w programie Daybreak dostęp do zaawansowanych modeli OpenAI w zakresie cyberbezpieczeństwa. CERT Polska z ich pomocą wykrył sześć podatności w systemie MikroTik RouterOS. Połączenie części z nich pozwalało przejąć kontrolę nad urządzeniem bez logowania. Producent udostępnił poprawki, a zespół potwierdził, że skutecznie blokują one wykryte metody ataku.
