Mercor
Mercor
51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.

Red tímový špecialista pre bezpečnosť AI

Mercor hľadá špecialistu na red teaming bezpečnosti AI, ktorý bude testovať pokročilé systémy AI pomocou adversariálnych promptov. Náplňou práce je dokumentovať riziká a spolupracovať s výskumníkmi na posilňovaní bezpečnosti a súladu modelov.

Popis

  • Vytvárať adversariálne prompty na testovanie pokročilých modelov AI
  • Odhaľovať jailbreaky, nebezpečné výstupy, halucinácie a nedostatky v pravidlách
  • Posudzovať odolnosť modelov v citlivých oblastiach, ako sú dezinformácie, kybernetická bezpečnosť, biologická bezpečnosť, podvody a politický obsah
  • Zaznamenávať zraniteľnosti a pomáhať pri tvorbe bezpečnostných benchmarkov a správ z red teamingu
  • Spolupracovať s výskumníkmi AI na posilňovaní súladu, odolnosti a bezpečnosti modelov
  • Prispievať k projektom zameraným na trénovanie a zlepšovanie systémov AI

Požiadavky

  • Vysokoškolské vzdelanie aspoň na bakalárskej úrovni v odbore informatika, kybernetická bezpečnosť, žurnalistika, komunikácia, psychológia, biológia, chémia, verejná politika alebo príbuznom odbore
  • Aspoň päť rokov profesionálnych skúseností v oblasti bezpečnosti AI, red teamingu AI, dôvery a bezpečnosti, kybernetickej bezpečnosti, investigatívnej žurnalistiky, biologických vied alebo príbuznej oblasti
  • Vynikajúce analytické uvažovanie, schopnosť navrhovať prompty a písať
  • Skúsenosti s tvorbou adversariálnych promptov alebo posudzovaním pokročilých systémov AI
  • Výhodou sú skúsenosti s red teamingom AI, RLHF, dolaďovaním pod dohľadom, súladom AI alebo dôverou a bezpečnosťou
  • Výhodou je znalosť testovania jailbreakov, prompt engineeringu alebo metód adversariálneho hodnotenia
  • Výhodou je odbornosť v náročných oblastiach, ako sú kybernetická bezpečnosť, biologická bezpečnosť, politický obsah, dezinformácie alebo bezpečnosť vo vede
  • Možnosť pracovať ako nezávislý dodávateľ
  • Kandidáti s vízami H-1B a STEM OPT nie sú podporovaní

Benefity

  • Práca na diaľku s flexibilným rozvrhom
  • Týždenné platby za poskytnuté služby prostredníctvom Stripe alebo Wise
  • Trvanie projektu sa môže podľa potrieb a výkonu predĺžiť, skrátiť alebo predčasne ukončiť
  • Konkurencieschopná odmena
  • Príležitosť spolupracovať s poprednými výskumníkmi a tímami pre bezpečnosť
  • Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
  • Odmena za odporúčanie až do výšky 340 USD za každé úspešné odporúčanie, s určitými obmedzeniami

Súvisiace pracovné ponuky

Lightspeed Commerce

Vedúci analytik dát pre rastový marketing

Lightspeed Commerce
1 001 – 5 000 Zamestnanci
MaloobchodSaaS

Veďte marketingovú analytiku pre globálnu obchodnú platformu Lightspeed a vytvárajte prehľady a nástenky na sledovanie výkonnosti kampaní a výsledkov celého predajného lievika. Zlepšujte kvalitu dát a automatizáciu a pomáhajte tímom meniť marketingové otázky na praktické analýzy.

Otvoriť
Ameriprise Financial Services, LLC

Senior manažér/ka dátových produktov a AI inžinierstva

Ameriprise Financial Services, LLC
5 001 – 10 000 Zamestnanci
FinanciePoisteniePoradenstvo

Vedie technické dodávanie analytiky, dátových produktov a aplikácií umelej inteligencie pre distribučnú činnosť správy aktív spoločnosti Ameriprise Financial. Usmerňuje dátové inžinierstvo, business intelligence, generatívnu AI a iniciatívy generovania s rozšíreným vyhľadávaním.

Otvoriť