51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Vzdialený odborník na bezpečnosť AI (angličtina a tamilčina)
Mercor hľadá odborníka na bezpečnosť AI hovoriaceho po anglicky a tamilsky na red teaming konverzačných modelov a agentov. Práca na zmluvu sa zameriava na identifikáciu zraniteľností, hodnotenie citlivých výstupov a tvorbu reprodukovateľných bezpečnostných údajov na trénovanie špičkovej AI.
Popis
- Vykonávať red teaming konverzačných modelov a agentov AI pomocou jailbreakov, injektáže promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Označovať zlyhania, kategorizovať zraniteľnosti a identifikovať systémové riziká
- Dôsledne uplatňovať zavedené taxonómie, benchmarky a testovacie postupy
- Vytvárať reprodukovateľné správy, súbory údajov a prípady útokov
- Hodnotiť výstupy AI týkajúce sa zaujatosti, dezinformácií, škodlivého správania a ďalších citlivých tém
- Rozširovať pokrytie hodnotenia hľadaním slabých miest, ktoré môže automatizované testovanie prehliadnuť
- Spolupracovať s projektovými tímami, ktoré vyvíjajú a zlepšujú špičkové systémy AI
Požiadavky
- Rodilá alebo plynulá znalosť angličtiny aj tamilčiny
- Správny úsudok pri hodnotení jazyka a obsahu
- Schopnosť určiť, či sú odpovede AI presné, úplné a primerané
- Mimoriadna pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Dôsledné dodržiavanie pokynov a noriem kvality
- Schopnosť jasne komunikovať odôvodnenie technickému aj netechnickému publiku
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov
- Možnosť pracovať ako nezávislý dodávateľ
- Nesmie vyžadovať sponzorstvo víz H-1B ani STEM OPT
- Výhodou sú skúsenosti s nepriateľským strojovým učením, kybernetickou bezpečnosťou, sociotechnickými rizikami alebo kreatívnym skúmaním
Benefity
- Práca na diaľku v plnom rozsahu
- Flexibilný pracovný čas
- Týždenné platby prostredníctvom Stripe alebo Wise
- Konkurencieschopná odmena
- Získanie skúseností s red teamingom AI založeným na údajoch od ľudí
- Pomoc pri zvyšovaní odolnosti, bezpečnosti a dôveryhodnosti systémov AI
- Spolupráca s poprednými výskumníkmi
- Na požiadanie sú k dispozícii primerané úpravy podmienok
- Odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie