51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI – angličtina a maráthčina (práca na diaľku na zmluvu)
Mercor hľadá experta na bezpečnosť AI, ktorý plynule ovláda angličtinu a maráthčinu a bude vykonávať red teaming konverzačných systémov AI. Zmluvná pozícia sa zameriava na adversariálne testovanie, analýzu zraniteľností a jasné reportovanie pre projekty s ľudskými dátami a frontier AI.
Popis
- Testujte konverzačné modely a agentov AI proti jailbreakom, injekciám promptov, scenárom zneužitia, využívaniu predsudkov a viacotáčkovej manipulácii
- Vytvárajte dátové podklady s ľudským vstupom anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používajte zavedené taxonómie, benchmarky a metodiky na zabezpečenie konzistentných hodnotení
- Dodávajte reprodukovateľné prípady útokov, datasety a reporty určené zákazníkom
- Hodnoťte odpovede AI na citlivé témy vrátane predsudkov, dezinformácií a škodlivého správania
- Odhaľujte slabiny, ktoré môžu automatizované metódy hodnotenia prehliadnuť
- Rozširujte pokrytie testovania s cieľom predchádzať neočakávaným problémom v produkcii
- Podporujte zákazníkov pri zlepšovaní bezpečnosti, odolnosti a spoľahlivosti ich systémov AI
- Spolupracujte s poprednými výskumníkmi na iniciatívach, ktoré trénujú a posúvajú frontier modely AI
Požiadavky
- Rodný jazyk alebo plynulá znalosť angličtiny a maráthčiny
- Dobrý úsudok pri hodnotení jazyka a obsahu
- Schopnosť určiť, či sú odpovede AI presné, úplné a vhodné, spolu s jasným vysvetlením
- Dôkladná pozornosť venovaná nuansovaným chybám, nezrovnalostiam a opomenutiam
- Spoľahlivé dodržiavanie testovacích pokynov a požiadaviek na kvalitu
- Jasná komunikácia odôvodnenia s technickým aj netechnickým publikom
- Flexibilita pri práci na rôznych projektoch, úlohách a pre rôznych zákazníkov
- Schopnosť pracovať ako nezávislý dodávateľ
- Nesmie vyžadovať sponzorstvo víz H-1B ani STEM OPT
- Výhodou: skúsenosti s adversariálnym strojovým učením vrátane datasetov jailbreakov, injekcií promptov, útokov RLHF/DPO alebo extrakcie modelov
- Výhodou: skúsenosti v kybernetickej bezpečnosti s penetračným testovaním, vývojom exploitov alebo reverzným inžinierstvom
- Výhodou: skúsenosti so sociotechnickými rizikami vrátane skúmania obťažovania alebo dezinformácií, analýzy zneužitia alebo testovania konverzačnej AI
- Výhodou: skúsenosti z psychológie, herectva alebo písania, ktoré podporujú nekonvenčné adversariálne myslenie
Benefity
- Práca na diaľku na zmluvu
- Flexibilný rozvrh s možnosťou nastaviť si vlastný pracovný čas
- Týždenné platby prostredníctvom Stripe alebo Wise
- Trvanie projektu sa môže meniť alebo sa môže skončiť skôr v závislosti od obchodných potrieb a výkonu
- Dobrovoľná účasť na projektoch zahŕňajúcich obsah s vyššou mierou citlivosti
- Jasne stanovené usmernenia a zdroje na podporu duševnej pohody pri úlohách s citlivým obsahom
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie