51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Expert na bezpečnost AI se znalostí angličtiny a finštiny
Odhalujte zranitelnosti pokročilých systémů AI pomocí jailbreaků, injekcí promptů a scénářů zneužití. Připravujte strukturovaná zjištění a reprodukovatelné příklady útoků pro hodnocení bezpečnosti AI.
Popis
- Testujte konverzační modely a agenty AI pomocí jailbreaků, injekcí promptů, scénářů zneužití, využívání zkreslení a vícekrokové manipulace.
- Vytvářejte lidmi označená data: dokumentujte selhání, klasifikujte zranitelnosti a identifikujte systémová rizika.
- Používejte taxonomie, benchmarky a testovací plány, aby testování probíhalo konzistentně.
- Dodávejte zákazníkům reprodukovatelné zprávy, datové sady a případy útoků.
- Posuzujte výstupy AI u citlivých témat, včetně zkreslení, dezinformací a škodlivého chování.
- Odhalujte zranitelnosti, které mohou automatizované testy přehlédnout.
- Rozšiřujte pokrytí hodnocení, abyste pomohli předcházet neočekávaným problémům v produkčním prostředí.
- Podílejte se na projektech zaměřených na trénování a zdokonalování pokročilých systémů AI.
Požadavky
- Plynulá nebo rodilá znalost angličtiny a finštiny.
- Předchozí zkušenost s red teamingem AI, kybernetickou bezpečností nebo sociotechnickým testováním.
- Schopnost adversariálně testovat systémy AI a prověřit jejich limity.
- Zkušenost s frameworky nebo benchmarky pro strukturované testování.
- Schopnost jasně vysvětlovat rizika technickému i netechnickému publiku.
- Schopnost přizpůsobit se různým projektům a zákazníkům.
- Výhodou je specializace na adversariální strojové učení, kybernetickou bezpečnost, sociotechnická rizika nebo kreativní sondování.
- Spolupráce jako nezávislý dodavatel.
- Je nutné, abyste nepotřebovali sponzorství víza H-1B ani programu STEM OPT.
Benefity
- Plně vzdálená práce.
- Flexibilní rozvrh s možností určovat si vlastní pracovní dobu.
- Týdenní platby prostřednictvím Stripe nebo Wise.
- Projekty mohou být prodlouženy, zkráceny nebo předčasně ukončeny podle potřeb a pracovních výsledků.
- Zdroje na podporu duševní pohody a jasné pokyny pro projekty zahrnující citlivější témata.
- Na vyžádání jsou k dispozici přiměřené úpravy pracovních podmínek.
- Možnost získat zkušenosti s red teamingem AI založeným na datech označených lidmi.
- Spolupráce s předními výzkumníky.
- Odměny za doporučení až 250 USD za každé úspěšné doporučení; platí limity.