ActiveFence to firma zajmująca się cyberbezpieczeństwem i sztuczną inteligencją, koncentrująca się na zaufaniu i bezpieczeństwie platform internetowych. Kompleksowa oferta firmy łączy badania analityczne, wykrywanie szkodliwych treści z wykorzystaniem AI oraz narzędzia do moderacji treści, pomagając platformom przeciwdziałać takim zagrożeniom jak wykorzystywanie seksualne dzieci, dezinformacja, mowa nienawiści, terroryzm, nagość, oszustwa i inne formy zagrożeń w internecie. ActiveFence wspiera zespoły zajmujące się zaufaniem i bezpieczeństwem, niezależnie od ich wielkości, pomagając chronić ponad trzy miliardy użytkowników na całym świecie w ponad 100 językach.
Starszy specjalista ds. danych GenAI w ActiveFence (praca hybrydowa, Izrael)
Rola starszego specjalisty ds. danych GenAI koncentruje się na automatycznym red teamingu, uczeniu maszynowym i analizie danych na dużą skalę. Twórz systemy pomagające wykrywać pojawiające się zagrożenia bezpieczeństwa w środowiskach online i produktach AI.
Opis
- Tworzyć skalowalnych agentów do pracy z danymi, którzy potrafią rozumować i wykonywać wieloetapowe procesy generowania oraz analizowania ataków adwersarialnych.
- Zarządzać danymi promptów i odpowiedzi z kampanii red teamingu, ewaluacji modeli i ataków syntetycznych, w tym ich czyszczeniem, kuracją, normalizacją i etykietowaniem.
- Analizować dane ustrukturyzowane i nieustrukturyzowane w celu identyfikowania trendów, klastrów, anomalii, rodzin ataków, technik jailbreak i nowych wzorców.
- Tworzyć modele uczenia maszynowego i algorytmy predykcyjne automatyzujące procesy red teamingu.
- Opracowywać potoki ewaluacji i monitorowania do pomiaru skuteczności ataków oraz porównywania zachowania modeli różnych dostawców.
- Stosować metody statystyczne i eksperymenty w celu weryfikowania ustaleń oraz zapewniania dokładnych i odtwarzalnych wyników.
- Przenosić wyniki badań do produkcji za pomocą niezawodnych, skalowalnych systemów zaprojektowanych pod kątem efektywności kosztowej i opóźnień, wspieranych przez testy, CI/CD i telemetrię.
Wymagania
- Co najmniej pięć lat praktycznego doświadczenia w analizie danych lub uczeniu maszynowym z użyciem języka Python lub R oraz SQL.
- Co najmniej trzy lata doświadczenia z bibliotekami Scikit-Learn i PyTorch.
- Praktyczne doświadczenie w red teamingu GenAI, testach adwersarialnych lub bezpieczeństwie LLM.
- Doświadczenie w tworzeniu i wdrażaniu produkcyjnych systemów opartych na LLM lub uczeniu maszynowym.
- Dobra znajomość wzorców projektowych LLM, w tym inżynierii promptów, wywoływania narzędzi, ustrukturyzowanych danych wyjściowych i RAG.
- Dobre zrozumienie klasteryzacji, embeddingów i NLP, podobieństwa semantycznego oraz wykrywania anomalii lub nowości.
- Doświadczenie w tworzeniu systemów klasyfikacji, szeregowania lub ustalania priorytetów.
- Solidne podstawy statystyki, projektowania eksperymentów i ewaluacji modeli.
- Doświadczenie z Cradle, Apache Hadoop i Spark oraz w tworzeniu wielkoskalowych procesów ETL i potoków danych.
- Tytuł magistra informatyki, elektrotechniki, matematyki, statystyki lub pokrewnej dziedziny.
- Stopień doktora będzie dodatkowym atutem, ale nie jest wymagany.