04

Nasze Badania

Bezpieczeństwo systemów i prywatność danych

Stefan Dziembowski

Lider Grupy Badawczej

Polski informatyk, profesor nauk ścisłych i przyrodniczych. Specjalizuje się w kryptografii. Profesor Instytutu Informatyki Wydziału Matematyki, Informatyki i Mechaniki Uniwersytetu Warszawskiego

PRYWATNOŚĆ W UCZENIU MASZYNOWYM

Szereg zastosowań uczenia maszynowego obejmuje zagadnienia, w których prywatność ma szczególne znaczenie. Dotyczy to zarówno przypadków, w których tajemnica dotyczy danych treningowych, na których uczony jest algorytm (np. gdy dane te zawierają informacje medyczne), jak i takich, w których sam algorytm podlega ochronie, gdyż np. jego znajomość ujawnia pewne informacje na temat danych treningowych. Rozwój metod ochrony prywatności jest punktem centralnym prowadzonych badań. Badamy rozwiązania oparte o technologię obliczeń wielopodmiotowych (ang. multiparty computation protocols). Technologia ta pozwala na wykonywanie obliczeń na rozproszonych danych w taki sposób, żeby dane te nie zostały ujawnione osobom postronnym. Pokrewną metodą, którą również badamy w tym kontekście, jest tzw. szyfrowanie homomorficzne (ang. homomorphic encryption), które dodatkowo minimalizuje konieczność interakcji między stronami wykonującymi algorytm. Ponadto, badania prowadzone w IDEAS NCBR dotyczą możliwych zastosowań tzw. zaufanych środowisk wykonawczych (ang. trusted execution environment) do zwiększenia prywatności wykonywanych obliczeń. Osobnym zagadnieniem jest zapewnienie, że wynik obliczeń nie zdradza prywatnych informacji na temat danych wejściowych. Technologią wykorzystywaną przez nas w tym kontekście jest tzw. prywatność różnicowa (ang. differential privacy). Metoda oparta jest na odpowiednim dodawaniu losowego szumu do wyniku obliczeń, tak żeby nie można było zeń wydedukować informacji na temat poszczególnych elementów danych wejściowych.

Wymienione wyżej technologie rozwijane są w informatyce teoretycznej od wielu lat. Wartość dodana naszych badań wynika ze współpracy z innymi zespołami naukowymi IDEAS NCBR, które zajmują się uczeniem maszynowym. Interakcje te pozwalają na dostosowanie rozwiązań do konkretnych problemów występujących w tej dziedzinie badań.

UCZENIE MASZYNOWE W ANALIZIE BEZPIECZEŃSTWA

Jednym z głównych problemów związanych z wielopodmiotowymi protokołami kryptograficznymi jest to, że zdecentralizowane rozwiązania są zazwyczaj bardziej złożone i podatne na błędy niż rozwiązania scentralizowane, a błędy w takich protokołach mogą prowadzić do znacznych strat finansowych. W IDEAS NCBR zajmujemy się rozwiązywaniem tych problemów za pomocą narzędzi pochodzących z metod formalnych. W szczególności, pracujemy nad użyciem metod z uczenia maszynowego do dowodzenia poprawności protokołów kryptograficznych. Jest to obiecujące podejście, ponieważ w wielu przypadkach analiza ta zawiera powtarzalne elementy, które potencjalnie dają się zautomatyzować. Wyzwaniem natomiast jest znalezienie odpowiednich danych treningowych. 

BEZPIECZNIEJSZY BLOCKCHAIN

Technologia blockchain została wprowadzona w 2008 roku. Pod tą nazwą rozumie się zwykle protokoły kryptograficzne służące do osiągania konsensusu na dużą skalę w sieciach rozproszonych. Protokoły te mogą pracować w tak zwanym wariancie permissionless, w którym zbiór uczestników nie jest określony a priori, lub w wariancie permissioned, w którym konsensus jest utrzymywany przez wstępnie zdefiniowane grupy serwerów. Początkowe zastosowania tej technologii dotyczyły sektora finansowego, głównie do tworzenia nowych wirtualnych kryptowalut (takich jak bitcoin). Jednak obecnie uważa się, że technologia ta ma o wiele więcej zastosowań, w szczególności w systemach zarządzania tożsamością cyfrową, w zarządzaniu kredytami hipotecznymi, systemach rejestracji własności gruntów, monitorowania łańcucha dostaw, ubezpieczeń, badań klinicznych, w zarządzaniu prawami autorskimi, prowadzeniu zdecentralizowanych organizacji, w zarządzaniu obrotem energii czy w internecie rzeczy (loT). W IDEAS NCBR zajmujemy się badaniem praktycznych aspektów tej technologii takich jak bezpieczeństwo tzw. portfeli kryptowalutowych, protokoły konsensusu czy inteligentne kontrakty.

Publikacje członków zespołów w ramach prac badawczych prowadzonych w IDEAS NCBR

2022

Nazwa konferencji Data Link Tytuł dokumentu Autorzy
NeurIPS
27 November - 4 December 2022
The Surprising Effectiveness of Latent World Models for Continual Reinforcement Learning
Piotr Miłoś, Gracjan Góral, Mateusz Olko
2022
Subquadratic Dynamic Path Reporting in Directed Graphs Against an Adaptive Adversary
Stefan Dziembowski, Tomasz Lizurej
MLinPL
04.11.2022 - 06.11.2022
Fast and Precise: Adjusting Planning Horizon with Adaptive Subgoal Search
Piotr Miłoś

Stefan Dziembowski

Lider Grupy Badawczej

Doświadczenie zawodowe

Stefan Dziembowski jest profesorem na Wydziale Matematyki, Informatyki i Mechaniki Uniwersytetu Warszawskiego. Jego zainteresowania naukowe dotyczą teoretycznej i stosowanej kryptografii, w szczególności zagadnień związanych z atakami fizycznymi na urządzenia kryptograficzne, oraz z technologią blockchain. Dziembowski otrzymał tytuł magistra informatyki w roku 1996 na Uniwersytecie Warszawskim, doktorat z informatyki w roku 2001 na Uniwersytecie w Aarhus (Dania) i habilitację z nauk matematycznych w roku 2012 na Uniwersytecie Warszawskim. Odbył on staże post-doktorskie na ETH w Zurychu, w CNR w Pizie i na Uniwersytecie Rzymskim La Sapienza, gdzie został adiunktem w roku 2008. W roku 2010 przeniósł się on na Uniwersytet Warszawski, gdzie prowadzi Laboratorium Kryptografii i Blockchaina. 

Nagrody i osiągnięcia

Jego prace ukazywały się na wiodących konferencjach informatycznych (FOCS, STOC, CRYPTO, EUROCRYPT, ACM CCS, ASIACRYPT, TCC, IEEE S&P, ACM CCS, LICS, i innych) i  w czasopismach (Communications of the ACM, Journal of Cryptology IEEE Transactions on Information Theory, Journal of the ACM, Communications of the ACM). Wielokrotnie był też zapraszany do komitetów programowych czołowych konferencji CRYPTO, EUROCRYPT, ACM CCS, ASIACRYPT, TCC, ICALP i innych. Prace jego współautorstwa otrzymały nagrody za najlepsze prace (Best Paper Awards) na konferencjach EUROCRYPT i IEEE S&P (w roku 2014). W roku 2015 był przewodniczącym komitetu organizacyjnego (general chair) konferencji Theory of Cryptography Conference, a w 2008 współprzewodniczącym jej komitetu programowego (PC co-chair).  Został on również wybrany współprzewodniczącym konferencji Eurocrypt 2022.  Wygłosił on także keynote talk na Conference on Cryptographic Hardware and Embedded Systems (CHES) 2020.

Granty

Stefan Dziembowski otrzymał dwa granty Europejskiej Rady ds. Badań Naukowych: „ERC Starting Grant” (konkurs z 2007) oraz „ERC Advanced Grant (konkurs 2019), dwa granty Fundacji na rzecz Nauki Polskiej: „FNP Welcome” oraz „FNP Team”, dwa granty „NCN Opus” z Narodowego Centrum Nauki, grant Marie-Curie na staż post-doktorski, oraz stypendium „Start” z Fundacji na rzecz Nauki Polskiej. Jest też laureatem Polsko-Niemieckiej Nagrody „Copernicus” (w roku 2020, razem z prof. Sebastianem Faustem) oraz nagrody im. Prof. Kazimierza Bartla (w 2016).  W kadencji 2021-2024 Stefan Dziembowski będzie członkiem Rady Narodowego Centrum Nauki. Wypromował pięciu doktorów. 

NASZE BADANIA

Algorytmy, szczególnie te wykorzystywane w uczeniu maszynowym, dają szanse na podejmowanie lepszych decyzji niż ludzkie.

Technologia Blockchain została wprowadzona w 2008 roku. Pod tą nazwą rozumie się zwykle protokoły kryptograficzne służące do osiągania konsensusu na dużą skalę w sieciach rozproszonych.

Zarówno nauka, jak i przemysł chętnie sięgają po rozwiązania wykorzystujące modele uczenia maszynowego, głównie głębokie sieci neuronowe.

Skip to content