51 – 200 Alkalmazottak
A Mercor elérhető profilja nem tartalmaz elegendő ellenőrzött információt a termékeiről, szolgáltatásairól, ügyfeleiről, ágazatáról vagy toborzási fókuszáról ahhoz, hogy pontos vállalati bemutatást lehessen készíteni. A vállalkozás vagy az általa kínált lehetőségek ismertetése előtt további forrásanyagokra van szükség.
MI-biztonsági vörös csapatos szakértő
Vizsgálja meg sérülékenységek után kutatva a Mercor partnerlaboratóriumainak élvonalbeli MI-rendszereit magas kockázatú területeken. Járuljon hozzá biztonsági mérőszámokhoz, és segítse a kutatókat a modellek ellenálló képességének és összehangoltságának javításában.
Leírás
- Készítsen ellenséges célú promptokat az élvonalbeli MI-modellek teszteléséhez.
- Keressen jailbreak módszereket, nem biztonságos viselkedést, hallucinációkat és irányelvsértéseket.
- Értékelje a modellek ellenálló képességét olyan érzékeny területeken, mint a félretájékoztatás, a kiberbiztonság, a biológiai biztonság, a csalás és a politikai tartalom.
- Dokumentálja a sérülékenységeket, és járuljon hozzá biztonsági mérőszámokhoz és vörös csapatos jelentésekhez.
- Dolgozzon MI-kutatókkal a modellek összehangoltságának, ellenálló képességének és biztonságának erősítésén.
- Támogassa az MI-rendszerek tanítását és fejlesztését célzó projekteket.
- Ossza be saját maga az idejét; a projekt időtartama az üzleti igényektől és a teljesítménytől függően változhat vagy idő előtt véget érhet.
Követelmények
- Felsőfokú végzettség informatikai, kiberbiztonsági, újságírói, kommunikációs, pszichológiai, biológiai, kémiai, közpolitikai vagy kapcsolódó területen.
- Legalább öt év szakmai tapasztalat MI-biztonság, MI-vöröscsapat-tesztelés, bizalom és biztonság, kiberbiztonság, oknyomozó újságírás, élettudományok vagy kapcsolódó területen.
- Erős elemző gondolkodás, prompttervezési és íráskészség.
- Tapasztalat ellenséges célú promptok készítésében vagy élvonalbeli MI-rendszerek értékelésében.
- Előnyt jelent az MI-vöröscsapat-tesztelésben, RLHF-ben, SFT-ben, MI-összehangolásban vagy bizalom és biztonság területén szerzett tapasztalat.
- Előnyt jelent a jailbreak-tesztelés, prompttervezés vagy ellenséges értékelési módszerek ismerete.
- Előnyt jelent a kiberbiztonság, biológiai biztonság, politikai tartalom, félretájékoztatás vagy tudományos biztonság területén szerzett szakértelem.
- A megbízás független vállalkozóként történik.
- H-1B vagy STEM OPT támogatás nélkül kell tudnia dolgozni.
Juttatások
- Teljesen távoli munkavégzés rugalmas időbeosztással.
- Heti kifizetés a teljesített szolgáltatásokért Stripe-on vagy Wise-on keresztül.
- Együttműködés vezető MI-kutatókkal és biztonsági csapatokkal.
- Közreműködés abban, hogy az MI-rendszerek miként reagálnak összetett, valós biztonsági kihívásokra.
- Versenyképes díjazás.
- Kérésre észszerű alkalmazkodási lehetőségek.
- Sikeres ajánlásonként legfeljebb 340 USD ajánlási díj, a korlátozások figyelembevételével.