51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Vzdialený odborník na bezpečnosť AI (angličtina a tamilčina)
Mercor hľadá odborníka na bezpečnosť AI na kontrakt, ktorý plynule ovláda angličtinu a tamilčinu a bude testovať konverzačné modely a agentov s cieľom odhaliť ich slabiny. Práca sa zameriava na testovanie jailbreakov, analýzu zraniteľností, posudzovanie škodlivého správania a tvorbu štruktúrovaných ľudských dát pre vývoj pokročilej AI.
Popis
- Testovať konverzačné modely a agentov pomocou jailbreakov, prompt injection útokov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Vytvárať súbory dát generované ľuďmi anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používať zavedené taxonómie, benchmarky a postupy na zachovanie konzistentného hodnotenia
- Vytvárať reprodukovateľné správy, súbory dát a prípady útokov
- Posudzovať výstupy AI týkajúce sa citlivých tém vrátane zaujatosti, dezinformácií a škodlivého správania
- Rozširovať pokrytie hodnotenia s cieľom identifikovať slabiny, ktoré môže automatizované testovanie prehliadnuť
- Podporovať laboratórium AI spoločnosti Mercor a jej podnikových zákazníkov pri trénovaní a zlepšovaní pokročilých systémov AI
Požiadavky
- Rodná alebo plynulá znalosť angličtiny a tamilčiny
- Správny úsudok pri hodnotení jazyka a obsahu vrátane toho, či sú odpovede AI presné, úplné a primerané
- Schopnosť odhaliť jemné chyby, nezrovnalosti a vynechania
- Dôsledné dodržiavanie pokynov, taxonómií, benchmarkov, postupov a štandardov kvality
- Jasná komunikácia odôvodnení pre technické aj netechnické publikum
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a so zákazníkmi
- Schopnosť pracovať ako nezávislý dodávateľ
- Kandidátom s vízami H1-B a STEM OPT v súčasnosti nemožno poskytnúť podporu
- Skúsenosti s nepriateľským strojovým učením, kybernetickou bezpečnosťou, sociotechnickými rizikami alebo kreatívnym sondovaním sú výhodou
Benefity
- Práca na diaľku
- Výber flexibilného pracovného času podľa vlastných potrieb
- Týždenné platby prostredníctvom Stripe alebo Wise
- Konkurenčné odmeňovanie
- Prístup k zdrojom na podporu duševnej pohody a jasným pokynom pre projekty s vyššou citlivosťou
- Trvanie projektu sa môže meniť alebo sa môže predčasne skončiť v závislosti od obchodných potrieb a výkonu
- Získanie odporúčacích platieb až do výšky 90 USD za každé úspešné odporúčanie