W NASK powstał Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji. To miejsce, w którym badana będzie sztuczna inteligencja pod kontem cyberbezpieczeństwa. AI jest już elementem naszej codzienności. To zarówno korzyści, jak i zagrożenia. Jak będzie nad tym czuwał NASK?
Misją NASK-PIB jest rozwój i bezpieczeństwo sieci teleinformatycznych w Polsce. Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji stanowi integralną część tych działań.
Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji będzie działał pod przewodnictwem dr hab. inż. Szymon Łukasik, prof. AGH z Wydziału Fizyki i Informatyki Stosowanej.
– Główne zadania jakie stoją przed nami to rozwój i wprowadzanie nowych technologii sztucznej inteligencji. Ze szczególną uwagą będziemy skupiać się na uwzględnieniu metod bezpiecznych, transparentnych i wyjaśnialnych w kluczowych obszarach, takich jak administracja publiczna, bezpieczeństwo sieci oraz ochrona cyberprzestrzeni. Ośrodek ma również za zadanie edukować i wspierać społeczeństwo w świadomym korzystaniu z nowoczesnych technologii AI – mówi Szymon Łukasik, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK.
W Ośrodku naukowcy skupią się na prowadzeniu innowacyjnych badań w obszarze AI, gdzie główny nacisk będzie kładziony na cyberbezpieczeństwo.
Struktura Ośrodka to szereg specjalistycznych zakładów badawczych jak:
– Zakład Analiz Audiowizualnych i Systemów Biometrycznych;
– Zakład Inżynierii Lingwistycznej i Analizy Tekstu;
– Zakład Nauki o Danych;
– Zakład Zastosowań Sztucznej Inteligencji w Medycynie i Analizie Danych Wrażliwych.
Wkrótce prace rozpocznie także Zakład Bezpieczeństwa i Przejrzystości Sztucznej Inteligencji. Skoncentrują się one na badaniach nad bezpieczeństwem i wyjaśnialnością modeli AI oraz wspieraniu krajowej i międzynarodowej inicjatywny w tym zakresie.
NASK współpracuje z innymi dla rozwoju AI
Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji będzie stwarzał możliwości realizacji ambitnych projektów badawczych. Będzie również współpracował z innymi instytucjami naukowymi i badawczo-rozwojowymi, gdyż naukowcy NASK wiedzą, że współpraca i wymiana wiedzy oraz doświadczeń jest bardzo cenna. Współpraca będzie dotyczyć chociażby:
– Akademii Górniczo-Hutniczej w Krakowie;
– Politechniki Warszawskiej;
– Instytutu IDEAS.
– Rozwój sztucznej inteligencji to nie tylko postęp technologiczny, ale także ogromna odpowiedzialność. Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK jest odpowiedzią na kluczowe wyzwania naszych czasów związane z rozwojem AI. Naszą misją jest nie tylko tworzenie innowacyjnych technologii, ale także zapewnienie, że będą one bezpieczne, przejrzyste i zrozumiałe dla wszystkich. Chcemy wspierać świadome i odpowiedzialne korzystanie z potencjału sztucznej inteligencji – zaznacza Radosław Nielek, dyrektor NASK.
NASK a cyberbezpieczna AI
Działania NASK to wiele inicjatyw, które zapewniają bezpieczeństwo i ochronę internetu, a także jego użytkowników i użytkowniczek przed różnymi cyberzagrożeniami. To także projekty dotyczące bezpieczeństwa AI.
Jednym z działań podejmowanych przez NASK jest chociażby rozwijanie Polskiego Dużego Modelu Językowego (PLLuM). Odbywa się to w ramach konsorcjum skupiającym kilka uczelni i instytutów badawczych.
Dzięki ogromnemu know-how w zakresie wykrywania szkodliwych treści NASK prowadzi prace nad analizą i detekcją materiałów syntetycznych generowanych z użyciem technik sztucznej inteligencji (tzw. deep fake).
Teraz powstanie Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji poszerzy zakres działań i możliwości NASK w badaniu bezpieczeństwa działania i użytkowania AI.
Źródło: gov.pl
