51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.
Specialista na testování bezpečnosti AI
Mercor hledá specialistu na testování bezpečnosti AI, který bude zkoumat slabiny pokročilých modelů v oblastech s vysokým rizikem. Tato práce pomáhá laboratořím AI trénovat a vylepšovat pokročilé systémy.
Popis
- Vytvářet adversariální prompty k testování pokročilých modelů AI.
- Odhalovat jailbreaky, nebezpečné chování, halucinace a porušení zásad.
- Posuzovat odolnost modelů vůči dezinformacím, hrozbám kybernetické bezpečnosti a biologické bezpečnosti, podvodům, politickému obsahu a dalším citlivým oblastem.
- Dokumentovat zranitelnosti a pomáhat vytvářet bezpečnostní benchmarky a zprávy z red teamingu.
- Spolupracovat s výzkumníky AI na posílení souladu modelů se stanovenými cíli, jejich odolnosti a bezpečnosti.
- Podílet se na projektech zaměřených na trénování a vylepšování systémů AI.
Požadavky
- Bakalářský nebo vyšší titul v oboru informatiky, kybernetické bezpečnosti, žurnalistiky, komunikace, psychologie, biologie, chemie, veřejné politiky nebo příbuzném oboru.
- Nejméně pět let odborné praxe v oblasti bezpečnosti AI, red teamingu AI, důvěry a bezpečnosti, kybernetické bezpečnosti, investigativní žurnalistiky, věd o živé přírodě nebo příbuzném oboru.
- Výborné analytické uvažování a schopnost navrhovat prompty a písemně komunikovat.
- Zkušenost s tvorbou adversariálních promptů nebo hodnocením pokročilých systémů AI.
- Je nutné pobývat v jedné z uvedených zemí, kde je práce povolena: Albánie, Rakousko, Belgie, Bulharsko, Bosna a Hercegovina, Švýcarsko, Česko, Německo, Dánsko, Španělsko, Estonsko, Finsko, Francie, Spojené království, Řecko, Chorvatsko, Maďarsko, Irsko, Island, Itálie, Lichtenštejnsko, Litva, Lucembursko, Lotyšsko, Monako, Moldavsko, Severní Makedonie, Malta, Nizozemsko, Norsko, Polsko, Portugalsko, Rumunsko, San Marino, Srbsko, Slovensko, Slovinsko, Švédsko, Spojené státy nebo Kosovo.
- V současné době nelze podpořit kandidáty s vízem H-1B ani statusem STEM OPT.
Benefity
- Plně vzdálená práce s flexibilním rozvrhem.
- Týdenní platby za odvedenou práci prostřednictvím Stripe nebo Wise.
- Délka projektu může být prodloužena, zkrácena nebo může projekt skončit dříve podle potřeb a pracovních výsledků.
- Konkurenceschopná odměna.
- Možnost spolupracovat s předními výzkumníky AI a bezpečnostními týmy.
- Na požádání jsou k dispozici přiměřené úpravy pracovních podmínek.
- Referral program nabízí až 340 USD za každé úspěšné doporučení, s omezeními.