51 – 200 Alkalmazottak
A Mercor elérhető profilja nem tartalmaz elegendő ellenőrzött információt a termékeiről, szolgáltatásairól, ügyfeleiről, ágazatáról vagy toborzási fókuszáról ahhoz, hogy pontos vállalati bemutatást lehessen készíteni. A vállalkozás vagy az általa kínált lehetőségek ismertetése előtt további forrásanyagokra van szükség.
MI-modellek biztonsági vörös csapatos szakértője
Támadó teszteléssel tárja fel a Mercor legfejlettebb MI-modelljeinek biztonsági gyengeségeit. Azonosítsa a sebezhetőségeket, és segítsen javítani a modellek összehangolását.
Leírás
- Készítsen támadó jellegű promptokat a legfejlettebb MI-modellek vizsgálatához.
- Keresse meg a jailbreak-kísérleteket, a nem biztonságos viselkedést, a hallucinációkat és az irányelvek megsértését.
- Tesztelje a modellek ellenálló képességét a félretájékoztatással, a kiberbiztonsággal, a biológiai biztonsággal, a csalással, a politikai tartalmakkal és más érzékeny területekkel kapcsolatban.
- Dokumentálja a sebezhetőségeket, és segítsen biztonsági mérőszámok, valamint vörös csapatos jelentések készítésében.
- Dolgozzon együtt MI-kutatókkal a modellek összehangolásának, ellenálló képességének és biztonságának erősítésén.
- Segítsen megvédeni és továbbfejleszteni a legfejlettebb MI-modellek következő generációját.
- Vegyen részt MI-rendszerek betanítását és fejlesztését szolgáló projektekben.
Követelmények
- Legalább alapfokozatú diploma számítástechnika, kiberbiztonság, újságírás, kommunikáció, pszichológia, biológia, kémia, közpolitika vagy kapcsolódó területen
- Legalább öt év szakmai tapasztalat MI-biztonság, MI-vörös csapatos tesztelés, bizalom és biztonság, kiberbiztonság, oknyomozó újságírás, élettudományok vagy kapcsolódó területen
- Kiemelkedő elemző gondolkodás, prompttervezési és íráskészség
- Tapasztalat támadó promptok készítésében vagy fejlett MI-rendszerek értékelésében
- MI-vörös csapatos tesztelési, RLHF-, felügyelt finomhangolási, MI-összehangolási vagy bizalmi és biztonsági tapasztalat előnyt jelent
- Jailbreak-tesztelési, promptmérnöki vagy támadó értékelési módszerek ismerete előnyt jelent
- Legalább egy érzékeny területen – például kiberbiztonság, biológiai biztonság, politikai tartalom, félretájékoztatás vagy tudományos biztonság – szerzett szakértelem előnyt jelent
- Nem igényelhet H-1B- vagy STEM OPT-szponzorációt; a Mercor nem tudja támogatni az ilyen szponzorációra szoruló jelölteket
Juttatások
- Teljes mértékben távoli munkavégzés rugalmas időbeosztással
- A teljesített szolgáltatások után heti kifizetés Stripe-on vagy Wise-on keresztül
- A projekt időtartama az igények és a teljesítmény függvényében változhat vagy korábban véget érhet
- Együttműködés vezető MI-kutatókkal és biztonsági csapatokkal
- Közreműködés annak alakításában, hogyan kezelik az MI-rendszerek az összetett, valós biztonsági kihívásokat
- Kérésre észszerű alkalmazkodási lehetőségek biztosítottak
- Sikeres ajánlásonként legfeljebb 340 USD ajánlási díj, korlátozások mellett