51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI so znalosťou angličtiny a fínčiny
Testujte pokročilé systémy AI na zraniteľnosti pomocou jailbreakov, prompt injection a scenárov zneužitia. Pripravujte štruktúrované zistenia a opakovateľné príklady útokov na podporu hodnotenia bezpečnosti AI.
Popis
- Testujte konverzačné modely AI a agentov pomocou jailbreakov, prompt injection, scenárov zneužitia, zneužívania zaujatosti a viacnásobnej manipulácie v priebehu konverzácie.
- Vytvárajte ľudsky označené dáta dokumentovaním zlyhaní, klasifikáciou zraniteľností a identifikovaním systémových rizík.
- Používajte taxonómie, benchmarky a testovacie postupy na zachovanie konzistentnosti testovania.
- Dodávajte zákazníkom reprodukovateľné správy, súbory údajov a prípady útokov.
- Posudzujte výstupy AI pri citlivých témach vrátane zaujatosti, dezinformácií a škodlivého správania.
- Odhaľujte zraniteľnosti, ktoré automatizované testovanie nemusí zachytiť.
- Rozširujte pokrytie hodnotenia, aby ste pomohli predchádzať neočakávaným problémom v produkčnom prostredí.
- Prispievajte k projektom zameraným na trénovanie a zlepšovanie pokročilých systémov AI.
Požiadavky
- Plynulá alebo rodená znalosť angličtiny a fínčiny.
- Predchádzajúce skúsenosti s red teamingom pri adversariálnom testovaní AI, kybernetickej bezpečnosti alebo sociotechnickom skúmaní.
- Schopnosť adversariálne testovať systémy AI a posúvať ich na hranice možností.
- Skúsenosti s rámcami alebo benchmarkmi na štruktúrované testovanie.
- Schopnosť jasne vysvetľovať riziká technickému aj netechnickému publiku.
- Schopnosť prispôsobiť sa rôznym projektom a zákazníkom.
- Výhodou sú špecializácie na adversariálne strojové učenie, kybernetickú bezpečnosť, sociotechnické riziká alebo kreatívne skúmanie.
- Spolupráca na pozícii nezávislého dodávateľa.
- Nesmie sa vyžadovať sponzorstvo víza H-1B ani programu STEM OPT.
Benefity
- Práca na diaľku odkiaľkoľvek.
- Flexibilný rozvrh s možnosťou určiť si vlastný pracovný čas.
- Týždenné platby cez Stripe alebo Wise.
- Projekty sa môžu podľa potrieb a výkonu predĺžiť, skrátiť alebo predčasne ukončiť.
- Zdroje na podporu duševnej pohody a jasné usmernenia pre projekty s témami vyššej citlivosti.
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok.
- Možnosť získať skúsenosti s red teamingom AI založeným na ľudských dátach.
- Spolupráca s poprednými výskumníkmi.
- Odmeny za odporúčanie až do výšky 250 USD za každé úspešné odporúčanie; platia obmedzenia.