Faculty tworzy zaawansowane rozwiązania z zakresu sztucznej inteligencji i uczenia maszynowego, które pomagają rozwiązywać złożone wyzwania operacyjne w obronności, ochronie zdrowia, usługach finansowych, sektorze publicznym i handlu detalicznym. Firma współpracuje z organizacjami nad zastosowaniem nowoczesnej AI w takich obszarach jak bezpieczeństwo narodowe, prognozowanie wyników i usprawnianie procesów, kładąc nacisk na praktyczny wpływ, odpowiedzialne wdrażanie i zrównoważony rozwój.
Naukowiec ds. bezpieczeństwa AI — praca hybrydowa w Londynie
Stanowisko naukowe w Faculty koncentrujące się na rozumieniu i kształtowaniu zachowania dużych modeli językowych opartych na transformatorach. Praca łączy rygorystyczne badania nad bezpieczeństwem AI, odtwarzalne narzędzia i praktyczne zastosowania.
Opis
- Badanie zagadnień bezpieczeństwa AI wspierających odpowiedzialne wdrażanie godnej zaufania sztucznej inteligencji
- Planowanie i przeprowadzanie eksperymentów służących zrozumieniu zachowania modeli i wpływaniu na nie
- Wykorzystywanie metod analizy white-box i black-box do badania dużych modeli językowych opartych na transformatorach
- Tworzenie modułowego, odtwarzalnego oprogramowania badawczego w Pythonie z użyciem narzędzi takich jak PyTorch
- Tworzenie i utrzymywanie infrastruktury oraz narzędzi technicznych potrzebnych do badań
- Udostępnianie wyników w publikacjach naukowych, raportach technicznych i prezentacjach
- Współpraca z głównymi naukowcami przy identyfikowaniu luk w literaturze, testowaniu hipotez i określaniu zakresu programów badawczych
- Wyjaśnianie ustaleń technicznych czołowym laboratoriom, organizacjom rządowym, partnerom zewnętrznym i instytutom zajmującym się bezpieczeństwem AI
Wymagania
- Solidne podstawy uczenia maszynowego i architektur transformatorowych, w szczególności dużych modeli językowych
- Praktyczna znajomość metod interpretowalności white-box i black-box, w tym wektorów sterujących i interpretowalności mechanistycznej
- Umiejętność wyprowadzania poprawnie sformułowanych hipotez ze strukturalnych problemów technicznych
- Zaawansowana znajomość Pythona i doświadczenie z frameworkami głębokiego uczenia, takimi jak PyTorch
- Doświadczenie w tworzeniu czystego, modułowego oprogramowania badawczego
- Doświadczenie w zarządzaniu kodem za pomocą Git
- Umiejętność jasnego przedstawiania złożonych idei technicznych i wyników eksperymentów w raportach i prezentacjach
- Ciekawość, rygor i analityczne podejście do badań
- Znajomość zagadnień bezpieczeństwa AI, takich jak odporność, ewaluacja lub kalibracja niepewności
- Umiejętność określenia, czy wymagane jest sponsorowanie wizy pracowniczej w Wielkiej Brytanii
Benefity
- Możliwość omówienia pracy w niepełnym wymiarze godzin
- Każda aplikacja jest oceniana przez człowieka, a nie rozstrzygana przez AI
- Narzędzia AI mogą być wykorzystywane do badań i przygotowania do rozmowy kwalifikacyjnej
- Można odmówić korzystania z AI do sporządzania notatek podczas rozmowy kwalifikacyjnej