Faculty tworzy zaawansowane rozwiązania z zakresu sztucznej inteligencji i uczenia maszynowego, które pomagają rozwiązywać złożone wyzwania operacyjne w obronności, ochronie zdrowia, usługach finansowych, sektorze publicznym i handlu detalicznym. Firma współpracuje z organizacjami nad zastosowaniem nowoczesnej AI w takich obszarach jak bezpieczeństwo narodowe, prognozowanie wyników i usprawnianie procesów, kładąc nacisk na praktyczny wpływ, odpowiedzialne wdrażanie i zrównoważony rozwój.
Starszy naukowiec ds. bezpieczeństwa AI — ewaluacje w Faculty (praca hybrydowa, Wielka Brytania)
Kieruj badaniami nad ewaluacją bezpieczeństwa AI w obszarach ryzyka CBRN i cyberzagrożeń w Faculty. Opracowuj metody, narzędzia i dowody wspierające odpowiedzialne wdrażanie zaawansowanych systemów AI.
Opis
- Opracowywać zaawansowane metody ewaluacji bezpieczeństwa w obszarach o dużym wpływie, w tym CBRN i cyberzagrożeniach.
- Prowadzić oryginalne badania nad bezpieczeństwem AI — od wstępnej koncepcji do publikacji.
- Identyfikować strategiczne możliwości wzmacniające program badawczy organizacji w zakresie ewaluacji bezpieczeństwa.
- Zapewniać wiedzę techniczną na potrzeby projektów klientów, programów ewaluacyjnych i red-teamingu wiodących laboratoriów.
- Reprezentować Faculty w rozmowach z badaczami, wiodącymi laboratoriami AI i przedstawicielami administracji publicznej.
- Tworzyć publikacje, raporty techniczne, ramy ewaluacyjne i narzędzia badawcze.
- Ściśle współpracować z zespołami Faculty zajmującymi się bezpieczeństwem AI i realizacją projektów.
Wymagania
- Udokumentowane doświadczenie w samodzielnym prowadzeniu badań — od identyfikowania oryginalnych pytań po publikację.
- Praktyczne doświadczenie w projektowaniu i wdrażaniu ewaluacji lub benchmarków AI.
- Umiejętność oceny trafności konstruktu i uwzględniania czynników zakłócających.
- Ekspertyza w zakresie red-teamingu, testów adversarial, jailbreakingu, pośredniego wstrzykiwania promptów i odporności zabezpieczeń modeli.
- Bardzo dobra znajomość projektowania eksperymentów, analizy statystycznej, kwantyfikacji niepewności i metod bayesowskich.
- Dogłębne rozumienie modeli językowych, architektur generatywnej AI, metod trenowania i zabezpieczeń.
- Biegłość w Pythonie.
- Zaangażowanie w stosowanie solidnych i odtwarzalnych praktyk inżynierii badawczej.
- Doświadczenie w modelowaniu zagrożeń i ryzyka będzie dodatkowym atutem.
- Znajomość CBRN lub cyberbezpieczeństwa albo doświadczenie w tych obszarach będzie dodatkowym atutem.
- Dorobek w zakresie wpływowych badań nad AI, potwierdzony wiodącymi publikacjami lub porównywalną pracą praktyczną, będzie dodatkowym atutem.
- Wymóg sponsorowania wizy do Wielkiej Brytanii jest oceniany w trakcie procesu aplikacyjnego.
Benefity
- Możliwość omówienia pracy w niepełnym wymiarze godzin.
- Proces rekrutacyjny skoncentrowany na różnorodności i inkluzywności.
- Dostęp do narzędzi AI wspierających badania i przygotowanie do rozmowy kwalifikacyjnej.
- Każda aplikacja jest oceniana przez człowieka.
- Możliwość rezygnacji z używania narzędzia AI do sporządzania notatek podczas rozmowy kwalifikacyjnej.