51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Vzdialený odborník na bezpečnosť AI (angličtina a odijčina) – zmluva
Spoločnosť Mercor hľadá odborníka na bezpečnosť AI, ktorý plynule ovláda angličtinu a odijčinu a bude testovať konverzačné modely AI s cieľom odhaliť ich zraniteľnosti pri trénovaní pokročilých modelov. Práca zahŕňa vytváranie anotácií zraniteľností, útočných prípadov, dátových súborov a reprodukovateľných správ o bezpečnosti.
Popis
- Testovanie konverzačných modelov a agentov AI pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania skreslení a viacotáčkovej manipulácie.
- Dokumentovanie zlyhaní, kategorizovanie zraniteľností a identifikovanie systémových rizík.
- Používanie zavedených taxonómií, benchmarkov a postupov na zachovanie konzistentnosti hodnotení.
- Vytváranie reprodukovateľných správ o bezpečnosti, dátových súborov a útočných prípadov.
- Skúmanie výstupov modelov so zameraním na skreslenie, dezinformácie a škodlivé správanie.
- Podpora trénovania a zlepšovania pokročilých systémov AI pre laboratórium AI spoločnosti Mercor a jej podnikových zákazníkov.
Požiadavky
- Plynulá znalosť angličtiny a odijčiny na úrovni rodeného hovoriaceho.
- Správny úsudok pri hodnotení jazyka a obsahu.
- Schopnosť určiť, či sú odpovede AI presné, úplné a vhodné, a vysvetliť svoje dôvody.
- Veľká pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam.
- Schopnosť spoľahlivo dodržiavať pokyny a štandardy kvality.
- Schopnosť jasne komunikovať svoje uvažovanie technickému aj netechnickému publiku.
- Flexibilita pri práci na rôznych projektoch, formátoch úloh a pre rôznych zákazníkov.
- Ochota pracovať ako nezávislý dodávateľ.
- Uchádzači nesmú byť kandidátmi na víza H-1B ani STEM OPT.
- Skúsenosti alebo špecializácia v oblasti nepriateľského strojového učenia, kybernetickej bezpečnosti, sociotechnických rizík alebo kreatívneho testovania sú vítané.
Benefity
- Práca na diaľku.
- Flexibilný pracovný čas.
- Možnosť dobrovoľne sa zapojiť do projektov s vyššou citlivosťou.
- Pokyny a zdroje na podporu duševnej pohody pri projektoch zahŕňajúcich citlivý obsah.
- Týždenné platby prostredníctvom služieb Stripe alebo Wise.
- Konkurenčné finančné ohodnotenie.
- Príležitosť spolupracovať s poprednými výskumníkmi.
- Odmeny za odporúčanie až do výšky 90 USD za každé úspešné odporúčanie.