04

Nasze Badania

AI dla bezpieczeństwa

TOMASZ MICHALAK

LIDER ZESPOŁU BADAWCZEGO

Polski informatyk, doktor nauk ekonomicznych i wykładowca w Instytucie Informatyki Wydziału Matematyki, Informatyki i Mechaniki Uniwersytetu Warszawskiego. Członek Ellis Society.

Zespół badawczy "AI dla bezpieczeństwa" tworzy nowe rozwiązania służące wzmacnianiu bezpieczeństwa prywatnego, publicznego jak i bezpieczeństwa państwa.

Opracowujemy wielopoziomowe systemy zarządzania ochroną infrastruktury krytycznej, jak i te służące do zabezpieczenia kluczowych usług państwa wobec zagrożeń kinetycznych i cybernetycznych. Nasze algorytmy rozwijają koncepcje z powodzeniem używane w Stanach Zjednoczonych do wzmocnienia bezpieczeństwa portów lotniczych, terminali morskich, infrastruktury przesyłowej, czy też zwiększenia ochrony zagrożonych gatunków zwierząt w parkach narodowych w wielu miejscach na świecie. Ponadto, tworzymy dedykowane rozwiązania algorytmiczne do wykrywania i zapobiegania przestępczości. Opracowujemy także rozwiązania oparte na sztucznej inteligencji, które zwiększają efektywność platform bezzałogowych w aplikacjach związanych z bezpieczeństwem.

OCHRONA INFRASTRUKTURY KRYTYCZNEJ

W ostatnich dwóch dekadach, dzięki zwiększeniu mocy obliczeniowej komputerów, możliwe stało się bezpośrednie modelowanie zarówno wielu potencjalnych zagrożeń, jak i możliwych środków obronnych, zwłaszcza w kontekście ochrony infrastruktury krytycznej. Szczególnie popularne jest tutaj podejście oparte na modelu gier Stackelberga, w których obrońca infrastruktury krytycznej rozdziela ograniczone zasoby bezpieczeństwa, aby chronić grupę obiektów przed różnymi rodzajami ataku. Dzięki zastosowaniu nowatorskich metod optymalizacyjnych możliwe jest zaprojektowanie strategii obronnych, które znacznie zwiększają szansę na zapobieżenie potencjalnemu atakowi, co wielokrotnie wykazano w wielu praktycznych zastosowaniach. W szczególności gry Stackelberga zostały zastosowane do optymalizacji ochrony wybranych obiektów w USA (Lotnisko Los Angeles LAX, portu w Bostonie, w Nowym Jorku), parków narodowych i rezerwatów przyrody w obu Amerykach, Afryce i Azji, do przeciwdziałania przestępstwom oportunistycznym, a także w cyberbezpieczeństwie. Bazując na tych doświadczeniach, nasz zespół tworzy zaawansowane systemy dedykowane ochronie infrastruktury krytycznej w Polsce.

ANALIZA DANYCH DLA BEZPIECZEŃSTWA

Analiza danych odgrywa kluczową rolę w zwiększaniu zdolności obronnych jak i wykrywaniu oraz prewencji przestępstw. Chociaż istnieje wiele dostępnych na rynku pakietów oprogramowania dedykowanych analizie danych w zastosowaniach związanych z bezpieczeństwem, nie obejmują one najnowszych osiągnięć naukowych, w tym tych z zakresu sztucznej inteligencji. Oznacza to, że czas i praca analityków nie są optymalnie wykorzystane, co jest szczególnie istotne w kontekście rosnących wolumenów dostępnych danych. Istnieje zatem paląca potrzeba budowy i wdrażania dedykowanych rozwiązań opartych na sztucznej inteligencji dla sektora bezpieczeństwa, które wykorzystują najnowsze osiągnięcia naukowe do analizy dużych ilości danych i umożliwiają zwiększenie możliwości i wydajności pracy ekspertów.

Nasz zespół specjalizuje się w opracowywaniu wydajnych algorytmów dla aplikacji związanych z bezpieczeństwem. Specjalizujemy się, w szczególności w rozwiązaniach opartych na algorytmach grafowych oraz algorytmach uczenia maszynowego. W kręgu naszych zainteresowań i doświadczeń jest szeroka gama aplikacji: od modelowania i wykrywania oszustw finansowych po zastosowanie sztucznej inteligencji do analizy, prognozowania i zapobiegania przestępczości. Na przykład, opierając się na znanych metodach z kryminalistyki, które pozwalają na identyfikacje kluczowych zmiennych, możemy efektywnie trenować relatywnie dokładne modele uczenia maszynowego do przewidywania przestępstw na danym obszarze. Następnie, korzystając z technik wyjaśnialnego uczenia maszynowego (explainable AI), jesteśmy w stanie określić wkład poszczególnych zmiennych do otrzymanego wyniku, aby uzyskać znacznie głębsze zrozumienie przyczyn prowadzących do występowania różnego rodzajów przestępstw na danym obszarze.

Zapoczątkowaliśmy ważny kierunek badań, jakim jest przeciwstawna analiza sieci społecznościowych. Jej celem jest zrozumienie, w jaki sposób jednostki i grupy mogą unikać technik, algorytmów i innych narzędzi stosowanych w tej dziedzinie. Kwintesencją tego paradygmatu jest bezpośrednie modelowanie strategicznych zachowań zarówno członków sieci społecznych, jak i strony, której celem jest analiza takich sieci. Badania te mają ważne implikacje praktyczne. Z jednej strony mogą pomóc w ochronie prywatności, np. poprzez skuteczne ukrycie nieujawnionych relacji społecznych przed algorytmami przewidywania połączeń. Z drugiej strony, badania tego zagadnienia może nam pomóc w zrozumieniu i zaradzeniu strategiom ukrywania się stosowanym przez organizacje przestępcze i terrorystyczne.

Skupimy się na ponownym wykorzystaniu tego, co jest dostępne: obliczeniach wykonanych w poprzednich etapach przetwarzania danych, informacji cząstkowej dostępnej w czasie wykorzystania modeli lub wiedzy zdobytej przez model podczas wcześniejszych epizodów uczenia w przypadku modeli uczonych w trybie ciągłym. Spojrzymy na problem efektywnego uczenia maszynowego z perspektywy recyklingu obliczeniowego.

PLATFORMY BEZZAŁOGOWE (DRONY)

Nasz zespół opracowuje również zaawansowane rozwiązania dla różnego rodzaju pojazdów bezzałogowych w oparciu o uczenie maszynowe i inne technologie AI. W ostatnim czasie szczególnie interesują nas multimodalne metody komunikacji człowieka – operatora z pojazdem bezzałogowym lub ich rojem. Przykładowy temat w tym kierunku badań obejmuje stworzenie oprogramowania planującego misje, opartego na sztucznej inteligencji, który jest w stanie zrozumieć i wdrożyć cele operacji na podstawie prostego słownego opisu. Z dumą informujemy, że część naszych kolegów z zespołu zaangażowanych w badania nad pojazdami bezzałogowymi bierze udział w prestiżowych międzynarodowych zawodach robotów „The Mohamed Bin Zayed International Robotics Challenge” (jako członkowie Nomagic Warsaw MIMotaurs).

TOMASZ MICHALAK

LIDER ZESPOŁU BADAWCZEGO

Doświadczenie zawodowe

Dr hab. inż. Tomasz Trzciński, prof. PW i UJ kieruje pracami zespołu zajmującego się widzeniem maszynowym CVLab. Jest również członkiem zespołu uczenia maszynowego GMUM na Uniwersytecie Jagiellońskim, a także liderem grupy badawczej  zajmującej się widzeniem maszynowym w IDEAS NCBR. Stopień doktora habilitowanego uzyskał na Politechnice Warszawskiej w 2020 r., doktora w zakresie wizji maszynowej na École Polytechnique Fédérale de Lausanne w 2014 r., a podwójny dyplom magisterski na Universitat Politècnica de Catalunya oraz Politecnico di Torino. Odbył staże naukowe na Uniwersytecie Stanforda w 2017 r. oraz na Nanyang Technological University w 2019 r. Pełni funkcję Associate Editor w IEEE Access oraz MDPI Electronics, jest także recenzentem prac publikowanych w czasopismach TPAMI, IJCV, CVIU, TIP i TMM, oraz członkiem komitetów organizacyjnych konferencji, m.in. CVPR, ICCV i ICML. Pracował w Google w 2013 r., Qualcomm w 2012 r. oraz w Telefónice w 2010 r. Pełni funkcję Senior Member w IEEE, jest członkiem ELLIS Society oraz ALICE Collaboration w CERN, jest ekspertem Narodowego Centrum NaukiFundacji na rzecz Nauki Polskiej. Jest współwłaścicielem firmy Tooploox, gdzie jako Chief Scientist kieruje zespołem zajmującym się uczeniem maszynowym, a także współzałożycielem startupu technologicznego Comixify, wykorzystującego metody sztucznej inteligencji do edycji wideo.

Jego zainteresowania naukowe skupiają się wokół takich tematów jak: widzenie maszynowe (symultaniczna lokalizacja i mapowanie, wyszukiwanie wizualne), uczenie maszynowe (głębokie sieci neuronowe, modele generatywne, uczenie ciągłe), uczenie reprezentacji (deskryptory binarne).

Nagrody i osiągnięcia

  • Stypendium dla wybitnych młodych naukowców Ministra Edukacji Narodowej (2021)
  • Nagroda naukowa Rektora Politechniki Warszawskiej I stopnia (2020)
  • Laureat konkursu New Europe 100 Challenger 2016 organizowanego przez Google oraz Financial Times

Granty

  • Narodowe Centrum Nauki: grant OPUS 2021-2024 projekt: Głębokie generatywne spojrzenie na uczenie ciągłe
  • Narodowe Centrum Nauki: grant PRELUDIUM BIS 2022 projekt: Ciągłe samonadzorowane uczenie reprezentacji
  • Narodowe Centrum Nauki: grant SONATA 2016 projekt: Opracowanie metod uczenia maszynowego do monitorowania jakości danych o dużej objętości oraz interaktywnych metod ich wizualizacji na przykładzie eksperymentu ALICE na Wielkim Zderzaczu Hadronów w CERN
  • Grant Microsoft Research Cambridge na finansowanie doktoranta (EMEA PhD Fellowship) 2020 projekt: Realistyczne renderowanie postaci ludzi na podstawie niepełnej informacji
  • Team lider w grancie Fundacji na rzecz Nauki Polskiej TEAM-NET: Bioinspirowalne sztuczne sieci neuronowe i rozwoju.

NASZE BADANIA

Algorytmy, szczególnie te wykorzystywane w uczeniu maszynowym, dają szanse na podejmowanie lepszych decyzji niż ludzkie.

Technologia Blockchain została wprowadzona w 2008 roku. Pod tą nazwą rozumie się zwykle protokoły kryptograficzne służące do osiągania konsensusu na dużą skalę w sieciach rozproszonych.

Skip to content