About this role
Summary: The Post-doc Expert will design and analyze research experiments to evaluate the reliability and safety of large language models, focusing on fine-tuning strategies and alignment issues. The role involves developing benchmarks, supporting a PhD student, and publishing scientific results within a national research pr...
Kierownik projektu ogłasza konkurs na stanowisko typu post-doc o nazwie Ekspert ds. Sztucznej Inteligencji (k/M) w projekcie badawczym „Eval FM: Rzetelna ewaluacja bezpieczeństwa w modelach AI”, finansowanym z budżetu Narodowego Centrum Nauki (konkurs SONATA), prowadzonym przez NASK-PIB.
O projekcie
Gwałtowny rozwój modeli sztucznej inteligencji, a w szczególności modeli bazowych (ang. foundation models), zrewolucjonizował takie dziedziny, jak widzenie komputerowe czy przetwarzanie języka naturalnego. Jednak powszechnie stosowane strategie adaptacji, takie jak dostrajanie (ang. fine-tuning), wiążą się z istotnymi zagrożeniami. W szczególności dostrajanie, może również prowadzić do katastrofalnego zapominania, w tym utraty zgodności z założonymi wartościami (ang. misalignment) lub pojawiania się niebezpiecznych zachowań.
Ponadto obecne praktyki ewaluacyjne pozostają niewystarczająco wiarygodne. Raportowane wzrosty skuteczności często mogą wynikać z zapamiętania danych wykorzystanych podczas pretreningu, a nie z rzeczywistej zdolności do generalizacji. Jest to szczególnie istotny problem w zastosowaniach związanych z bezpieczeństwem. Bez rygorystycznej ewaluacji deklaracje dotyczące odporności i wiarygodności modeli pozostają niepewne, narażając społeczeństwo na trudne do wykrycia zagrożenia.
CEL BADAWCZY - opracowanie metod wiarygodnej ewaluacji oraz bezpiecznej adaptacji modeli językowych, takich jak Mistral czy LLaMA. Projekt koncentruje się na poniższych kluczowych pytaniach badawczych:
1. Ewaluacja - jak projektować benchmarki, które wiarygodnie mierzą rzeczywistą zdolność generalizacji, wolną od zanieczyszczenia danymi wykorzystanymi podczas pretreningu? Oraz jak wykrywać potencjalnie ukryte podatności w modelach?
2. Adaptacja - jak dostrajać modele do zadań docelowych, zachowując jednocześnie ich zgodność z założonymi zasadami, odporność oraz bezpieczeństwo?
Metodyka będzie łączyć automatyczne wykrywanie i eliminowanie nakładania się danych treningowych i ewaluacyjnych, diagnostykę wewnętrznych aktywacji i zachowania modeli w celu identyfikacji ukrytych podatności. Ponadto rozwijane będą strategie dostrajania ograniczające katastrofalne zapominanie i pozwalające zachować zgodność z założonymi zasadami, odporność i bezpieczeństwo modelu podczas adaptacji do nowych zadań. Prace będą prowadzone na współczesnych modelach językowych, w tym multimodalnych.
Zakres prac w projekcie badawczym:
- Projektowanie, prowadzenie i analiza eksperymentów badawczych oraz rozwijanie metod zgodnych z celami projektu;
- Przygotowywanie publikacji naukowych i prezentowanie wyników badań;
- Wsparcie merytoryczne i techniczne doktoranta w bieżącej pracy badawczej, w tym pomoc w planowaniu eksperymentów i rozwiązywaniu problemów technicznych;
- Współpraca z kierownikiem projektu i doktorantem w zakresie planowania, koordynacji i monitorowania realizacji prac badawczych;
Oferujemy umowę o pracę na 25 miesięcy z wynagrodzeniem miesięcznym 16 000 - 17 800 PLN + 20% premii.
Nasze wymagania:
- Stopień naukowy doktora w dziedzinach: informatyka, matematyka fizyka lub pokrewnych, uzyskany w roku zatrudnienia w projekcie lub w okresie 7 lat przed 1 stycznia roku zatrudnienia w projekcie (zgodnie z Regulaminem przyznawania środków na realizację zadań finansowanych przez NCN w zakresie projektów badawczych);
- Bardzo dobra znajomość Pythona i frameworków AI (PyTorch);
- Zaawansowane, praktyczne doświadczenie z trenowaniem dużych modeli i w implementacji nowatorskich rozwiązań;
- Publikacje naukowe na wiodących konferencjach AI lub w odpowiadających czasopismach;
- Samodzielność w prowadzeniu badań;
- Znajomość języka angielskiego w stopniu komunikatywnym;
[wynagrodzenie] 16 000 - 17 800 PLN brutto miesięcznie + premia 20% [/wynagrodzenie]
[umowa] umowa o pracę [/umowa]
[specjalista] ekspert [/specjalista]
[typ] praca haybrydowa / zdalna [/typ]
Oferujemy:
- Umowę o pracę
- Równowagę między pracą a życiem osobistym
- Elastyczne godziny pracy
- Ciekawe projekty
- Współpracę z ekspertami w branży
- Udział w szkoleniach i konferencjach
- Naukę języka angielskiego w godzinach pracy
- Opiekę medyczną
- Kartę Multisport
- Ubezpieczenie na życie
- Dofinansowanie wypoczynku
- Biuro w dogodnej lokalizacji
Prosimy o przesłanie CV zawierającego informacje o:
- wykształceniu,
- osiągnięciach naukowych, w szczególności: publikacjach w wydawnictwach/czasopismach naukowych, odbytych stypendiach, stażach naukowych, otrzymanych nagrodach,
- doświadczeniu programistycznym i uczestnictwie we wdrożeniach,
- poziomie znajomości języka angielskiego,
- innym doświadczeniu zdobytym w kraju lub za granicą.
Dodatkowo prosimy o przesłanie listu motywacyjnego z uwzględnieniem planowanych badań w zakresie projektu.
Termin przyjmowania zgłoszeń: 13 listopada 2026 r.
Termin rozstrzygnięcia konkursu: 27 listopada 2026 r.
Warunkiem koniecznym do zatrudnienia w NASK jest posiadanie prawa do pobytu i pracy w Polsce.