Mercor
Mercor
51 – 200 Zaměstnanci
Dostupný profil společnosti Mercor neobsahuje dostatek ověřených informací o jejích produktech, službách, zákaznících, odvětví ani zaměření náboru, aby bylo možné připravit přesný přehled. K popisu podnikání společnosti nebo jejích příležitostí jsou zapotřebí další podklady.

Specialista na testování bezpečnosti AI

Mercor hledá specialistu na testování bezpečnosti AI, který bude pomocí adversariálních promptů prověřovat pokročilé systémy AI. Náplní práce je dokumentovat rizika a spolupracovat s výzkumníky na posílení bezpečnosti a souladu modelů.

Popis

  • Vytvářet adversariální prompty pro testování pokročilých modelů AI
  • Odhalovat jailbreaky, nebezpečné výstupy, halucinace a mezery v zásadách
  • Posuzovat odolnost modelů v citlivých oblastech, jako jsou dezinformace, kybernetická bezpečnost, biologická bezpečnost, podvody a politický obsah
  • Dokumentovat zranitelnosti a pomáhat vytvářet bezpečnostní benchmarky a zprávy z red teamingových testů
  • Spolupracovat s výzkumníky AI na posílení souladu, odolnosti a bezpečnosti modelů
  • Podílet se na projektech zaměřených na trénování a zdokonalování systémů AI

Požadavky

  • Bakalářský nebo vyšší titul v oboru informatiky, kybernetické bezpečnosti, žurnalistiky, komunikace, psychologie, biologie, chemie, veřejné politiky nebo příbuzném oboru
  • Alespoň pět let odborné praxe v oblasti bezpečnosti AI, red team testování AI, důvěry a bezpečnosti, kybernetické bezpečnosti, investigativní žurnalistiky, přírodních věd nebo příbuzné oblasti
  • Silné analytické uvažování a dobré dovednosti v navrhování promptů a psaní
  • Zkušenosti s tvorbou adversariálních promptů nebo hodnocením pokročilých systémů AI
  • Výhodou: zkušenosti s red team testováním AI, RLHF, supervizovaným dolaďováním, zarovnáváním AI nebo oblastí důvěry a bezpečnosti
  • Výhodou: znalost testování jailbreaků, prompt engineeringu nebo metod adversariálního hodnocení
  • Výhodou: odborné znalosti komplexních oblastí, jako jsou kybernetická bezpečnost, biologická bezpečnost, politický obsah, dezinformace nebo vědecká bezpečnost
  • Je nutné být schopen pracovat jako nezávislý dodavatel
  • Podpora kandidátů s vízy H-1B a STEM OPT není k dispozici

Benefity

  • Plně vzdálená práce s flexibilním rozvrhem
  • Týdenní platby za poskytnuté služby prostřednictvím Stripe nebo Wise
  • Délka projektu může být podle potřeb a pracovních výsledků prodloužena, zkrácena nebo může projekt předčasně skončit
  • Konkurenceschopná odměna
  • Možnost spolupracovat s předními výzkumníky a bezpečnostními týmy
  • Na vyžádání jsou k dispozici přiměřená opatření
  • Odměna za doporučení až 340 USD za každé úspěšné doporučení, s platnými limity

Související pracovní nabídky

WADE Group

Seniorní AI inženýr, Mabriq

WADE Group
1 – 10 Zaměstnanci
MarketingPoradenstvíSaaS

Vytvářejte inteligentní aplikace, AI agenty a řešení založená na datech ve společnosti Mabriq, která poskytuje konzultace v oblasti dat a AI. V této roli se zaměříte na Azure, Microsoft Foundry, RAG, backendový vývoj a cloudové platformy.

Otevřít
General Dynamics Information Technology

Seniorní inženýr a architekt AI

General Dynamics Information Technology

Veďte architekturu AI, strojového učení a velkých jazykových modelů pro vládní, obranné a zpravodajské mise společnosti General Dynamics Information Technology. Doveďte řešení od ověření koncepce až do produkčního provozu ve složitých operačních podmínkách.

Otevřít
Lyra Health

Viceprezident pro globální účetnictví ve společnosti Lyra Health

Lyra Health

Veďte globální účetní organizaci Lyra Health při přípravě na výkaznictví veřejně obchodované společnosti. Zodpovídejte za finanční výkaznictví, kontroly SOX, treasury, automatizaci a transformaci účetnictví.

Otevřít
Maker Lab

Seniorní vedoucí AI a analytiky — Maker Lab (Singapur, hybridní režim)

Maker Lab
51 – 200 Zaměstnanci
LogistikaMarketingPoradenství

Veďte iniciativy v oblasti agentní AI, prediktivní analytiky a správy pro marketingové týmy Maker Lab v regionu JAPAC. Radíte vedoucím pracovníkům a mentorujte zkušené specialisty na AI.

Otevřít
HighLevel

Vedoucí frontendový inženýr, Commerce (Indie, práce na dálku)

HighLevel
201 – 500 Zaměstnanci
LogistikaPoradenstvíSaaS

Veďte architekturu frontendu Commerce ve společnosti HighLevel, operačním systému s umělou inteligencí pro agentury a malé firmy. Zlepšujte výkon a přístupnost, zvyšujte technické standardy a vytvářejte škálovatelná řešení pro e-commerce.

Otevřít