Mercor
Mercor
51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.

Red teamer pre bezpečnosť AI

Mercor hľadá red teamera pre bezpečnosť AI, ktorý bude skúmať pokročilé modely a odhaľovať obchádzanie ochranných mechanizmov, halucinácie a zlyhania pravidiel. Spoločnosť spolupracuje s laboratóriami AI na trénovaní a zlepšovaní systémov umelej inteligencie.

Popis

  • Vytvárať adversariálne prompty na testovanie pokročilých modelov AI.
  • Odhaľovať obchádzanie ochranných mechanizmov, nebezpečné správanie, halucinácie a zlyhania pravidiel.
  • Posudzovať odolnosť modelov v oblastiach dezinformácií, kybernetickej bezpečnosti, biologickej bezpečnosti, podvodov, politického obsahu a ďalších citlivých tém.
  • Zaznamenávať zraniteľnosti a pomáhať pripravovať bezpečnostné benchmarky a správy z red team testovania.
  • Spolupracovať s výskumníkmi AI na posilňovaní zosúladenia, odolnosti a bezpečnosti modelov.
  • Realizovať projekty ako nezávislý dodávateľ podľa potrieb projektu a dosiahnutých výsledkov.

Požiadavky

  • Vysokoškolské vzdelanie aspoň na úrovni bakalára v odbore informatika, kybernetická bezpečnosť, žurnalistika, komunikácia, psychológia, biológia, chémia, verejná politika alebo v príbuznom odbore.
  • Aspoň päť rokov profesionálnych skúseností v oblasti bezpečnosti AI, red team testovania AI, dôvery a bezpečnosti, kybernetickej bezpečnosti, investigatívnej žurnalistiky, biologických vied alebo v príbuznej oblasti.
  • Výborné analytické uvažovanie, schopnosť navrhovať prompty a písať.
  • Skúsenosti s tvorbou adversariálnych promptov alebo hodnotením pokročilých systémov AI.
  • Výhodou sú skúsenosti s red team testovaním AI, RLHF, SFT, zosúladením AI alebo dôverou a bezpečnosťou.
  • Výhodou je znalosť testovania obchádzania ochranných mechanizmov, prompt engineeringu alebo metód adversariálneho hodnotenia.
  • Výhodou sú odborné znalosti v jednej alebo viacerých citlivých oblastiach vrátane kybernetickej bezpečnosti, biologickej bezpečnosti, politického obsahu, dezinformácií alebo vedeckej bezpečnosti.
  • Musí byť možné pracovať ako nezávislý dodávateľ.
  • Podpora pre uchádzačov s vízami H-1B a STEM OPT nie je k dispozícii.

Benefity

  • Plne vzdialená práca.
  • Možnosť určiť si vlastný pracovný rozvrh.
  • Týždenné platby za poskytnuté služby cez Stripe alebo Wise.
  • Spolupráca s poprednými výskumníkmi AI a bezpečnostnými tímami.
  • Príspevok k bezpečnosti a zosúladeniu pokročilých systémov AI.
  • Odmeny za odporúčanie do výšky 340 USD za každého úspešného kandidáta, s príslušnými obmedzeniami.
  • Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok.

Súvisiace pracovné ponuky

Airwallex

Vedúci dátový vedec pre rastové algoritmy

Airwallex
1 001 – 5 000 Zamestnanci
Sponzor víza H1BFinancieFintechPlatby

Vedieť vývoj riešení strojového učenia a kauzálnej inferencie na podporu globálneho rastu spoločnosti Airwallex. Spolupracovať s marketingovými a rastovými tímami na zlepšovaní získavania, zapájania a udržania zákazníkov.

Otvoriť
Allstate

Konzultant a vedúci inžinier pre AI

Allstate

Veďte inžinierstvo AI v spoločnosti Allstate India a navrhujte agentové systémy AI, sémantické systémy a cloudové dátové platformy. Určujte technické smerovanie naprieč produktmi a posilňujte prevádzku produkčných systémov aj inžinierske postupy.

Otvoriť
Next Step Systems - National IT Recruiting Firm

Vedúci seniorný inžinier strojového učenia

Next Step Systems - National IT Recruiting Firm
1 – 10 Zamestnanci
B2BHR technológie

Veďte systémy strojového učenia spoločnosti od trénovania a vyhodnocovania až po inferenciu a nasadzovanie. Budujte produkčnú infraštruktúru s využitím Pythonu, PyTorchu alebo JAX a výpočtov na GPU.

Otvoriť
Target

Senior Lead inžinier strojového učenia, aplikovaná AI a LLM

Target

Vedie vývoj produkčných aplikácií umelej inteligencie a strojového učenia pre maloobchodné podnikanie spoločnosti Target. Poskytuje praktické technické vedenie v oblasti LLM, aplikovaného strojového učenia, systémovej architektúry, nasadzovania a prevádzky.

Otvoriť
Finom

Senior Machine Learning Engineer pre finančnú kriminalitu

Finom
501 – 1 000 Zamestnanci
B2BFinancieFintech

Veďte produkčný Dynamic Risk Score spoločnosti Finom a vyvíjajte systémy strojového učenia na odhaľovanie finančnej kriminality pre malé a stredné podniky v Európe. Nasadzujte, monitorujte a zlepšujte modely a transakčné pravidlá naprieč trhmi.

Otvoriť
Brillio

Senior dátový vedec

Brillio

Veďte vývoj škálovateľných webových aplikácií v spoločnosti Brillio a usmerňujte architektúru front-endu, backendové API, cloudové nasadenia aj technické tímy.

Otvoriť
Springer Nature

Asistent alebo seniorný redaktor pre strojové učenie — Springer Nature, hybridne v Šanghaji

Springer Nature

Redigujte výskum v oblasti strojového učenia pre Nature Communications a dohliadajte na hodnotenie rukopisov a odborné recenzné konanie. Pomáhajte formovať stratégiu časopisu, rozvíjať vedecký obsah a budovať kontakty vo výskumnej komunite.

Otvoriť
NVIDIA

Inžinier pre technológie vývojárov AI, stelesnená AI

NVIDIA

Spolupracujte s vývojármi robotiky a výskumnými tímami v Číne na optimalizácii úloh stelesnenej AI na GPU NVIDIA. Vytvárajte a zdokonaľujte pracovné postupy simulácie, trénovania a inferencie pre robotické modely.

Otvoriť