Jakie zadania stoją przed nowym ośrodkiem?
Nowo powstały Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK objął kierownictwem dr hab. inż. Szymon Łukasik, prof. AGH z Wydziału Fizyki i Informatyki Stosowanej
- Główne zadania jakie stoją przed nami to rozwój i wprowadzanie nowych technologii sztucznej inteligencji. Ze szczególną uwagą będziemy skupiać się na uwzględnieniu metod bezpiecznych, transparentnych i wyjaśnialnych w kluczowych obszarach, takich jak administracja publiczna, bezpieczeństwo sieci oraz ochrona cyberprzestrzeni. Ośrodek ma również za zadanie edukować i wspierać społeczeństwo w świadomym korzystaniu z nowoczesnych technologii AI – powiedział prof. Szymon Łukasik, dyrektor Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji w NASK.
Naukowcy z nowego Ośrodka skupiają się na prowadzeniu innowacyjnych badań w obszarze AI, z naciskiem na cyberbezpieczeństwo, które jest dla NASK najważniejsze. To droga, która będzie prowadzić do odpowiedzialnego zastosowania technologii sztucznej inteligencji w administracji, czy bezpieczeństwie sieci.
W strukturze Ośrodka znajduje się szereg specjalistycznych zakładów badawczych, w tym:
- Zakład Analiz Audiowizualnych i Systemów Biometrycznych, który prowadzi badania nad biometryczną weryfikacją tożsamości oraz przetwarzaniem informacji z wykorzystaniem uczenia głębokiego.
- Zakład Inżynierii Lingwistycznej i Analizy Tekstu, zajmujący się przetwarzaniem języka naturalnego i analizą tekstu, w tym wykrywaniem nielegalnych lub wrażliwych treści.
- Zakład Nauki o Danych, który rozwija metody analizy dużych zbiorów danych, w tym związanych z cyberbezpieczeństwem oraz zwalczaniem dezinformacji.
- Zakład Zastosowań Sztucznej Inteligencji w Medycynie i Analizie Danych Wrażliwych, którego celem jest rozwój systemów AI wspomagających diagnostykę i analizę danych medycznych.
Niebawem prace rozpocznie także Zakład Bezpieczeństwa i Przejrzystości Sztucznej Inteligencji, który będzie koncentrował się na badaniach nad bezpieczeństwem i wyjaśnialnością modeli AI, a także wspiera krajowe i międzynarodowe inicjatywy w tym zakresie. Obecnie trwa budowa zespołu.
NASK jako lider i partner w rozwoju AI
Naukowcy z NASK doskonale rozumieją znaczenie współpracy, dzielenia się wiedzą oraz wymiany doświadczeń. Dlatego w ramach działalności Ośrodka Badań nad Bezpieczeństwem Sztucznej Inteligencji planowane jest prowadzenie ambitnych projektów badawczych we współpracy z wiodącymi instytucjami naukowymi i badawczo-rozwojowymi. Partnerami Ośrodka będą między innymi Akademia Górniczo-Hutnicza w Krakowie, Politechnika Warszawska oraz Instytut IDEAS. Ponadto jednostka będzie angażować się w szerzenie wiedzy na temat sztucznej inteligencji poprzez liczne inicjatywy edukacyjne i społeczne, wspierając rozwój świadomości technologicznej w społeczeństwie.
NASK-PIB to instytucja, której priorytetem jest rozwój i bezpieczeństwo sieci teleinformatycznych w Polsce. Pełni ona kluczową rolę w kształtowaniu polityk dotyczących bezpieczeństwa cyfrowego oraz wspieraniu rozwoju społeczeństwa informacyjnego. Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji doskonale wpisuje się w te działania, odpowiadając na współczesne wyzwania związane z dynamicznym rozwojem technologii AI i jej wpływem na nasze codzienne życie.
- Rozwój sztucznej inteligencji to nie tylko postęp technologiczny, ale także ogromna odpowiedzialność. Ośrodek Badań nad Bezpieczeństwem Sztucznej Inteligencji NASK jest odpowiedzią na kluczowe wyzwania naszych czasów związane z rozwojem AI. Naszą misją jest nie tylko tworzenie innowacyjnych technologii, ale także zapewnienie, że będą one bezpieczne, przejrzyste i zrozumiałe dla wszystkich. Chcemy wspierać świadome i odpowiedzialne korzystanie z potencjału sztucznej inteligencji - zaznaczył Radosław Nielek, dyrektor NASK.
Rola NASK w zapewnianiu cyberbezpieczeństwa AI
NASK aktywnie realizuje liczne inicjatywy mające na celu ochronę użytkowników internetu przed różnorodnymi zagrożeniami cybernetycznymi, a także zwiększanie bezpieczeństwa technologii sztucznej inteligencji. W ramach swoich działań instytut uczestniczy w rozwijaniu Polskiego Dużego Modelu Językowego (PLLuM), współpracując w konsorcjum z uczelniami i instytutami badawczymi. Kluczową rolą NASK w tym projekcie jest zapewnienie bezpieczeństwa powstających modeli językowych.
Bazując na doświadczeniu w wykrywaniu szkodliwych treści, NASK prowadzi również badania nad analizą i identyfikacją syntetycznych materiałów generowanych z użyciem AI, takich jak tzw. deep fake. Prace te obejmują wielomodalną analizę, łączącą jednoczesne badanie tekstu, dźwięku i obrazu wideo, co pozwala na skuteczniejsze wykrywanie zagrożeń.
Oprócz działalności badawczej NASK koncentruje się na rozwoju młodych talentów. Instytut stara się być miejscem przyjaznym dla doktorantów, młodych naukowców i inżynierów, którzy rozpoczynają swoją karierę w obszarze sztucznej inteligencji i bezpieczeństwa AI. Dzięki wsparciu mentorów i dostępowi do innowacyjnych projektów, NASK tworzy sprzyjające warunki do zdobywania wiedzy i rozwoju zawodowego.
Zdjęcie: NASK
