51 – 200 Alkalmazottak
A Mercor elérhető profilja nem tartalmaz elegendő ellenőrzött információt a termékeiről, szolgáltatásairól, ügyfeleiről, ágazatáról vagy toborzási fókuszáról ahhoz, hogy pontos vállalati bemutatást lehessen készíteni. A vállalkozás vagy az általa kínált lehetőségek ismertetése előtt további forrásanyagokra van szükség.
MI-biztonsági vörös csapatos szakértő – angol és finn nyelv, Egyesült Államok, távmunka
A Mercor emberi adatokra épülő MI-projektjeihez végezzen adverszariális tesztelést társalgási MI-modelleken és ügynökökön. Hozzon létre reprodukálható sebezhetőségi adatokat a fejlett MI-rendszerek megerősítésének támogatására.
Leírás
- Társalgási MI-modellek és ügynökök tesztelése jailbreak, prompt injection, visszaélési forgatókönyvek, torzítások kihasználása és többfordulós manipuláció segítségével
- A hibák annotálása, a sebezhetőségek kategorizálása és rendszerszintű kockázatok azonosítása
- Bevált taxonómiák, benchmarkok és útmutatók alkalmazása a következetes értékelésekhez
- Reprodukálható jelentések, adatkészletek és támadási esetek készítése az ügyfelek számára
- Az automatizált tesztelés által esetleg figyelmen kívül hagyott sebezhetőségek azonosítása
- Az értékelési lefedettség bővítése és a váratlan élesüzemi problémák csökkentésének támogatása
- Együttműködés vezető kutatókkal MI-rendszereket betanító és fejlesztő projekteken
Követelmények
- Folyékony vagy anyanyelvi szintű angol- és finnnyelv-tudás
- Korábbi vörös csapatos tapasztalat MI-vel kapcsolatos adverszariális munkában, kiberbiztonságban vagy társadalom-technikai vizsgálatokban
- MI-rendszerek adverszariális tesztelésének és a hibapontok felé történő feszegetésének képessége
- Keretrendszerek vagy benchmarkok alkalmazásában szerzett tapasztalat strukturált teszteléshez
- Kockázatok világos kommunikálásának képessége műszaki és nem műszaki közönség számára
- Alkalmazkodóképesség a projektek és az ügyféligények között
- Rendelkezésre állás független vállalkozói megbízáshoz
- Nem lehet H-1B- vagy STEM OPT-jelölt
- Előny: adverszariális gépi tanulási tapasztalat, beleértve a jailbreak-adatkészleteket, a prompt injectiont, az RLHF/DPO-támadásokat vagy a modellkinyerést
- Előny: kiberbiztonsági tapasztalat penetrációs tesztelésben, exploitfejlesztésben vagy visszafejtésben
- Előny: társadalom-technikai kockázati tapasztalat zaklatás vagy dezinformáció vizsgálatában, visszaéléselemzésben vagy társalgási MI tesztelésében
- Előny: pszichológiai, színészi vagy írói tapasztalat, amely támogatja a szokatlan adverszariális gondolkodást
Juttatások
- Teljesen távoli munkavégzés
- Rugalmas időbeosztás
- Heti kifizetések Stripe-on vagy Wisen keresztül
- Jólléti erőforrások és egyértelmű iránymutatások fokozott érzékenységű projektekhez
- Lehetőség emberi adatokra épülő MI-vörös csapatos munkában tapasztalatot szerezni
- Közvetlen lehetőség az MI-rendszerek robusztusabbá, biztonságosabbá és megbízhatóbbá tételére
- Versenyképes díjazás
- Sikeres ajánlásonként legfeljebb 250 amerikai dollár ajánlási bónusz