51 – 200 Alkalmazottak
A Mercor elérhető profilja nem tartalmaz elegendő ellenőrzött információt a termékeiről, szolgáltatásairól, ügyfeleiről, ágazatáról vagy toborzási fókuszáról ahhoz, hogy pontos vállalati bemutatást lehessen készíteni. A vállalkozás vagy az általa kínált lehetőségek ismertetése előtt további forrásanyagokra van szükség.
MI-biztonsági vörös csapatos szakértő – Egyesült Államok, távmunka
A Mercor távmunkában dolgozó MI-biztonsági vörös csapatos szakértőt keres, aki próbára teszi a határterületi MI-modelleket, és feltárja a magas kockázatú területek sebezhetőségeit. A szerződéses pozíció a fejlett rendszereket fejlesztő és tökéletesítő MI-laboratóriumokat támogatja.
Leírás
- Készítsen ellenséges promptokat a határterületi MI-modellek vizsgálatához
- Azonosítsa a jailbreakelési kísérleteket, a nem biztonságos viselkedést, a hallucinációkat és az irányelvek megsértését
- Értékelje a modellek ellenálló képességét a félretájékoztatással, kiberfenyegetésekkel, biosecurity-kockázatokkal, csalással, politikai tartalmakkal és más érzékeny témákkal szemben
- Dokumentálja a feltárt sebezhetőségeket, és segítsen biztonsági benchmarkok és vörös csapatos jelentések készítésében
- Működjön együtt MI-kutatókkal a modellek összehangolásának, robusztusságának és biztonságának erősítésében
- Járuljon hozzá az MI-rendszereket tanító és fejlesztő projektekhez
Követelmények
- Informatikai, kiberbiztonsági, újságírói, kommunikációs, pszichológiai, biológiai, kémiai, közpolitikai vagy kapcsolódó területen szerzett alapfokú vagy magasabb végzettség
- Legalább ötéves szakmai tapasztalat MI-biztonság, MI-vörös csapatos tesztelés, bizalom és biztonság, kiberbiztonság, oknyomozó újságírás, élettudományok vagy kapcsolódó területen
- Erős analitikus ítélőképesség, prompttervezési készség és írásbeli kommunikációs képesség
- Tapasztalat ellenséges promptok létrehozásában vagy határterületi MI-rendszerek értékelésében
- Előnyt jelent az MI-vörös csapatos tesztelésben, RLHF-ben, SFT-ben, MI-összehangolásban vagy bizalom és biztonság területén szerzett tapasztalat
- Előnyt jelent a jailbreaktesztelés, promptmérnökség vagy ellenséges értékelési módszerek ismerete
- Előnyt jelent legalább egy szürkezónás területen, például kiberbiztonságban, biosecurityben, politikai tartalmakban, félretájékoztatásban vagy tudományos biztonságban szerzett szakértelem
- Képesség független vállalkozóként dolgozni
- H-1B és STEM OPT jelöltek támogatása nem biztosított
Juttatások
- Teljesen távoli munkavégzés
- Rugalmas, önállóan beosztható munkarend
- Heti kifizetések Stripe-on vagy Wise-on keresztül
- A projektek az üzleti igények és a teljesítmény alapján meghosszabbíthatók, lerövidíthetők vagy idő előtt lezárhatók
- Versenyképes javadalmazás
- Együttműködés vezető MI-kutatókkal és biztonsági csapatokkal
- Kérésre észszerű alkalmazkodást biztosítunk
- Sikeres ajánlásonként legfeljebb 340 amerikai dollár összegű ajánlási kifizetés, az alkalmazandó korlátozások függvényében