FAR.AI
FAR.AI
FAR.AI to badawcza i edukacyjna organizacja non-profit, której celem jest uczynienie zaawansowanej sztucznej inteligencji bezpieczną i użyteczną dla wszystkich. Jej zespół bada kluczowe wyzwania związane z godną zaufania sztuczną inteligencją, w tym odporność, oszustwa, interpretowalność oraz ocenę najbardziej zaawansowanych systemów. Poprzez badania techniczne, szkolenia, wydarzenia, warsztaty, przyznawanie grantów i programy takie jak FAR.Labs, FAR.AI wspiera badaczy oraz wzmacnia zdolność tej dziedziny do rozwijania bezpiecznej i zgodnej z ludzkimi wartościami sztucznej inteligencji. Organizacja udostępnia również wyniki badań, łączy liderów środowisk akademickich i przemysłu oraz współpracuje z uniwersytetami i instytucjami publicznymi w obszarze bezpieczeństwa AI i polityki publicznej.

Dyrektor inżynierii ds. AI Red Team

Kieruj funkcją inżynieryjną FAR.AI w ramach globalnego programu testów bezpieczeństwa przełomowych systemów AI. Buduj zespoły, narzędzia agentowe i systemy ewaluacji wspierające rozwój bezpieczeństwa AI.

Opis

  • Rozwijać organizację inżynieryjną FAR.AI zajmującą się Red Team oraz jej systemy, produkty, usługi, ewaluacje i agentów
  • Tworzyć agentowe systemy testów bezpieczeństwa, które systematycznie badają powierzchnie ataku
  • Wykrywać nowo ujawnione publiczne jailbreaki i automatycznie uwzględniać je w platformach testów bezpieczeństwa
  • Udoskonalać metody symulacji atakujących i oceny szkodliwych wyników
  • Tworzyć bazy danych podatności, możliwości analizy statystycznej oraz infrastrukturę raportowania
  • Dostarczać systemy na potrzeby wymagających projektów testów bezpieczeństwa realizowanych z czołowymi firmami AI i instytucjami rządowymi
  • Pomagać w tworzeniu publicznych raportów, benchmarków i rankingów
  • Uczestniczyć w testach zarówno zamkniętych, jak i otwartych wagowo przełomowych modeli
  • Tworzyć agentowe przepływy pracy zwiększające efektywność zespołu Red Team
  • Kierować osobami współtworzącymi rozwiązania inżynieryjne i Red Team, mentorować im oraz wspierać je
  • Planować pracę sprintów i nadzorować realizację inżynieryjną
  • Ustanawiać skalowalne procesy na potrzeby szybko zmieniających się projektów
  • Projektować procesy rekrutacyjne i zatrudniać menedżerów inżynierii oraz innych członków zespołu
  • Identyfikować ograniczenia inżynieryjne i wdrażać skuteczne rozwiązania
  • Współpracować z liderami technicznymi nad systemami, metodami, ewaluacjami i badaniami inżynieryjnymi
  • Współtworzyć strategię techniczną i produktową Red Team
  • Przekładać koncepcje techniczne i wyniki badań na praktyczny wpływ w świecie rzeczywistym

Wymagania

  • Znaczne doświadczenie w inżynierii oprogramowania, AI lub inżynierii komputerowej, w tym w takich obszarach jak cyberbezpieczeństwo lub MLOps
  • Udokumentowane doświadczenie w budowaniu, rozwijaniu i prowadzeniu zespołów technicznych, w tym startupów od podstaw oraz zespołów menedżerów
  • Praktyczne doświadczenie z agentami kodującymi, Pythonem, API LLM, lokalnymi frameworkami LLM, frameworkami ewaluacyjnymi, agentami LLM, infrastrukturą chmurową i klastrami obliczeniowymi
  • Umiejętność skutecznego działania w szybko zmieniającym się środowisku
  • Wyraźne zaangażowanie w realizację misji i zwiększanie wpływu przełomowych systemów AI
  • Silne umiejętności komunikacyjne pozwalające wyjaśniać rozwiązania techniczne odbiorcom technicznym i nietechnicznym
  • Wytrwałość w realizacji ambitnych celów
  • Doświadczenie w budowaniu lub testowaniu przełomowych LLM albo systemów agentowych będzie dodatkowym atutem
  • Doświadczenie w tworzeniu zespołów technicznych i produktów w środowisku przedsiębiorczym będzie dodatkowym atutem
  • Umiejętność odkrywania subtelnych podatności o wysokiej wadze w złożonych systemach będzie dodatkowym atutem
  • Doświadczenie w adversarial machine learning lub bezpieczeństwie będzie dodatkowym atutem
  • Wcześniejsza praca w laboratoriach AI, zespołach bezpieczeństwa lub rządowych instytutach bezpieczeństwa będzie dodatkowym atutem
  • Publikacje naukowe lub inne prace dotyczące bezpieczeństwa, ochrony lub odporności AI będą dodatkowym atutem
  • Gotowość do pracy z pewną elastycznością w zakresie stref czasowych
  • Dyspozycyjność do pracy na pełny etat, 40 godzin tygodniowo

Benefity

  • Pokrywane są koszty podróży służbowych
  • Pokrywane są koszty sprzętu
  • W biurze w Berkeley zapewniane są obiady i kolacje
  • Dostępne jest sponsorowanie wiz do USA lub Singapuru
  • Płatny okres próbny

Powiązane oferty pracy

epias GmbH

Inżynier DevOps

epias GmbH
11 – 50 Pracownicy
DoradztwoOpieka zdrowotnaSaaS

Dołącz do epias GmbH i wspieraj oprogramowanie do zarządzania procesami medycznymi, korzystając z CI/CD, Kubernetes i automatyzacji infrastruktury. Dbaj o niezawodne działanie platformy oraz współpracę zespołów programistycznych i operacyjnych.

Otwórz
Walmart

Główny inżynier oprogramowania: systemy chmurowe i rozproszone

Walmart

Kieruj chmurową platformą mGPS/Compass wspieraną przez AI, rozwijając usługi rozproszone i nawigację wewnątrz sklepów. Usprawniaj działanie sklepów dzięki odpornej architekturze i przywództwu technicznemu.

Otwórz
Marigold

Starszy inżynier oprogramowania, praca zdalna w Australii

Marigold

Twórz i modernizuj infrastrukturę Marigold do obsługi wiadomości, usług chmurowych i technologii marketingowych. Pracuj z Javą, Kafką, AWS, DevOps i narzędziami programistycznymi wspomaganymi przez AI.

Otwórz
Cartonplast Group

Starszy lider zespołu programistów ERP — Cartonplast, praca hybrydowa w Niemczech

Cartonplast Group

Pokierujesz zespołem rozwijającym system ERP w Cartonplast i będziesz kształtować procesy handlowe, logistyczne oraz produkcyjne. W hybrydowym modelu pracy w Niemczech połączysz zarządzanie zespołem, współpracę z biznesem i praktyczny wkład techniczny.

Otwórz
Consultaas

Architekt oprogramowania, systemy informatyczne

Consultaas

Kształtuj system informatyczny i produkty cyfrowe firmy z branży nieruchomości, współpracując z zespołami programistycznymi, SRE, infrastruktury i bezpieczeństwa. Rola obejmuje platformy chmurowe, API i architekturę oprogramowania.

Otwórz
Walmart

Starszy inżynier oprogramowania, platformy chmurowe i AI — Walmart

Walmart

Kieruj rozwojem infrastruktury chmurowej, narzędzi inżynierskich i platform AI/ML dla kluczowych systemów sprzedaży detalicznej Walmart. Wyznaczaj architekturę i sposób realizacji prac w całym cyklu życia oprogramowania, rozwijaj praktyki inżynierskie i wspieraj rozwój inżynierów.

Otwórz