ActiveFence
ActiveFence
ActiveFence je společnost působící v oblasti kybernetické bezpečnosti a umělé inteligence, která se zaměřuje na důvěru a bezpečnost online platforem. Její komplexní nabídka kombinuje výzkum a analýzu, detekci škodlivého obsahu pomocí umělé inteligence a nástroje pro moderování obsahu, aby platformám pomohla řešit rizika, jako jsou sexuální zneužívání dětí, dezinformace, projevy nenávisti, terorismus, nahota, podvody a další formy škodlivého obsahu a jednání na internetu. ActiveFence podporuje týmy pro důvěru a bezpečnost různé velikosti a pomáhá chránit více než tři miliardy uživatelů po celém světě ve více než 100 jazycích.

AI Red Team — adversariální hodnocení generativní AI v ActiveFence

Navrhujte adversariální útoky, datové sady a benchmarky pro platformu zabezpečení AI ActiveFence. Testujte odolnost velkých jazykových modelů pomocí red teamingu a výzkumu zranitelností.

Popis

  • Navrhujte nové adversariální útoky.
  • Pomáhejte vytvářet škálovatelné systémy pro generování a testování útoků.
  • Vyhodnocujte kvalitu, účinnost, novost a reprodukovatelnost útoků.
  • Odhalujte nové vzorce útoků a zranitelnosti modelů.
  • Vytvářejte adversariální datové sady, benchmarky a regresní testy.
  • Sdílejte zjištění, metody a strukturovaná data o útocích s týmy Data Science, Security a Engineering.
  • Přispívejte k vyšší odolnosti modelů a posilování obrany.

Požadavky

  • Nejméně tři roky odborné praxe v kybernetické bezpečnosti, výzkumu bezpečnosti, red teamingu nebo příbuzném oboru.
  • Bakalářský titul v oboru Data Science, počítačového inženýrství, informatiky nebo blízkém technickém oboru.
  • Dobrá znalost velkých jazykových modelů, prompt injection a zabezpečení AI.
  • Zkušenosti s red teamingem, výzkumem bezpečnosti nebo adversariálním testováním.
  • Pokročilá znalost Pythonu a automatizace.
  • Kreativní schopnosti při řešení problémů a schopnost vyvíjet nové techniky útoků.
  • Schopnost analyzovat výsledky a srozumitelně sdělovat zjištění.
  • Výhodou jsou certifikace v oblasti ofenzivní kybernetické bezpečnosti, například OSWA, OSWE, OSCE3, SEC542 nebo SEC522.

Související pracovní nabídky

Protiviti

Manažer architektury řešení Databricks

Protiviti

Veďte návrh a dodávku moderních datových platforem a řešení datového inženýrství Databricks pro klienty Protiviti. Dohlížejte na architekturu, migrace, správu dat a rozvoj týmů napříč odvětvími.

Otevřít
Protiviti

Seniorní architekt řešení Databricks, přidružený ředitel

Protiviti

Veďte klientské zakázky Protiviti: navrhujte datová řešení Databricks a poskytujte poradenství v oblasti technologických rizik. Rozvíjejte obchod, řiďte realizaci projektů a podporujte týmy v hybridní konzultační roli.

Otevřít
Neara

Architekt hodnoty pro zákazníky

Neara

Pomáhejte zákazníkům z energetiky zavádět digitální dvojčata Neara využívající strojové učení pro elektrické sítě a dokládat měřitelnou návratnost investic. Konzultujte se zákazníky a spolupracujte s týmy prodeje a zavádění.

Otevřít
NVIDIA

Seniorní architekt pro výkonnost programovacích modelů a následné trénování ve společnosti NVIDIA (práce na dálku, USA)

NVIDIA

Veďte hodnocení výkonnosti a následné trénování modelů AI společnosti NVIDIA pro generování kódu a softwarové inženýrství. Vytvářejte benchmarky, strategie odměňování a škálovatelnou infrastrukturu pro trénování.

Otevřít
Akamai Technologies

Vzdálený architekt řešení v Kostarice

Akamai Technologies

Dodávejte zákazníkům cloudová, bezpečnostní, mediální a výkonnostní řešení Akamai. Veďte implementace od technického návrhu přes testování až po spuštění.

Otevřít