51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI (angličtina a bengálčina) — práca na diaľku na zmluvu
Mercor hľadá zmluvného experta na bezpečnosť AI, ktorý plynule ovláda angličtinu a bengálčinu a bude testovať konverzačné modely a agentov s cieľom odhaľovať ich zraniteľnosti. Práca zahŕňa vyšetrovanie nedostatkov, hodnotenie citlivých výstupov a vytváranie reprodukovateľných bezpečnostných údajov pre zákazníkov z oblasti výskumu AI.
Popis
- Testujte konverzačné modely a agentov AI pomocou jailbreakov, injektáže promptov, scenárov zneužitia, využívania predsudkov a viacotáčkovej manipulácie
- Vytvárajte ľuďmi označené údaje dokumentovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používajte zavedené taxonómie, benchmarky a metodiky na podporu konzistentného hodnotenia
- Vytvárajte reprodukovateľné správy, datasety a útočné scenáre pre zákazníkov
- Posudzujte odpovede modelov týkajúce sa predsudkov, dezinformácií, škodlivého konania a ďalších citlivých tém
- Rozširujte pokrytie hodnotenia hľadaním slabých miest, ktoré môže automatizované testovanie prehliadnuť
Požiadavky
- Plynulá znalosť angličtiny a bengálčiny na úrovni rodeného hovoriaceho
- Správny úsudok pri hodnotení jazyka a obsahu z hľadiska presnosti, úplnosti a primeranosti
- Schopnosť odhaliť jemné chyby, nezrovnalosti a chýbajúce informácie
- Spoľahlivé dodržiavanie stanovených pokynov a požiadaviek na kvalitu
- Schopnosť jasne vysvetliť svoje uvažovanie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Práca musí prebiehať ako samostatný kontraktor
- Nesmiete vyžadovať sponzorstvo víz H-1B ani STEM OPT; preferované sú skúsenosti s nepriateľským strojovým učením, kybernetickou bezpečnosťou, sociotechnickými rizikami alebo kreatívnym testovaním.
- benefity
Benefity
- Práca na diaľku na zmluvu
- Flexibilita pri nastavení vlastného pracovného času
- Týždenné platby prostredníctvom Stripe alebo Wise
- Projekty môžu byť podľa obchodných potrieb a pracovného výkonu predĺžené, skrátené alebo predčasne ukončené
- Dobrovoľná účasť na projektoch s vyššou citlivosťou
- Jasné postupy a zdroje na podporu duševnej pohody pri práci s citlivým obsahom
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok
- Odmeny za odporúčanie až do výšky 90 USD za každé úspešné odporúčanie