51 – 200 Alkalmazottak
A Mercor elérhető profilja nem tartalmaz elegendő ellenőrzött információt a termékeiről, szolgáltatásairól, ügyfeleiről, ágazatáról vagy toborzási fókuszáról ahhoz, hogy pontos vállalati bemutatást lehessen készíteni. A vállalkozás vagy az általa kínált lehetőségek ismertetése előtt további forrásanyagokra van szükség.
MI-biztonsági vörös csapatos szakértő - Távmunka, szerződéses jogviszony (Amerikai Egyesült Államok)
A Mercor MI-biztonsági vörös csapatos szakértőt keres, aki ellenséges teszteléssel tárja fel a legkorszerűbb MI-modellek sebezhetőségeit. A munkakör feladatkörébe promptok tervezése és a magas kockázatú modellviselkedés értékelése tartozik MI-biztonsági kutatókkal együttműködve.
Leírás
- Készítsen ellenséges promptokat a legkorszerűbb MI-modellek teszteléséhez
- Azonosítsa a jailbreak-kísérleteket, a nem biztonságos viselkedést, a hallucinációkat és a szabályzatok megsértését
- Értékelje a modellek robusztusságát a félretájékoztatás, a kiberbiztonság, a biobiztonság, a csalás, a politikai tartalmak és más érzékeny területeken
- Dokumentálja a sebezhetőségeket, és támogassa a biztonsági mérőszámokat, valamint a vörös csapatos jelentéseket
- Működjön együtt MI-kutatókkal a modellek összehangolásának, robusztusságának és biztonságának erősítésén
- Vegyen részt MI-rendszereket betanító és fejlesztő projektekben
Követelmények
- Informatikai, kiberbiztonsági, újságírói, kommunikációs, pszichológiai, biológiai, kémiai, közpolitikai vagy kapcsolódó területen szerzett alapképzéses vagy magasabb szintű végzettség
- Legalább öt év szakmai tapasztalat MI-biztonság, MI-vörös csapatos tesztelés, bizalom és biztonság, kiberbiztonság, oknyomozó újságírás, élettudományok vagy kapcsolódó területen
- Erős analitikus gondolkodási, prompttervezési és írásbeli kommunikációs készségek
- Ellenséges promptok készítésében vagy legkorszerűbb MI-rendszerek értékelésében szerzett tapasztalat
- MI-vörös csapatos tesztelésben, RLHF-ben, SFT-ben, MI-összehangolásban vagy bizalom és biztonság területén szerzett tapasztalat előnyt jelent
- A jailbreak-tesztelés, promptmérnökség vagy ellenséges értékelési módszerek ismerete előnyt jelent
- A kiberbiztonság, biobiztonság, politikai tartalmak, félretájékoztatás vagy tudományos biztonság egy vagy több szürke zónás területén szerzett szakértelem előnyt jelent
- Önálló szerződéses vállalkozóként való munkavégzés képessége
- H-1B és STEM OPT jelentkezők számára nem biztosított támogatás
Juttatások
- Teljesen távoli munkavégzés
- Rugalmas munkarend
- Heti kifizetések Stripe-on vagy Wise-on keresztül
- A projektek üzleti igények és teljesítmény alapján meghosszabbíthatók, lerövidíthetők vagy idő előtt lezárhatók
- Ellenséges tesztelési munka vezető MI-kutatókkal és biztonsági csapatokkal
- Lehetőség annak alakítására, hogy az MI-rendszerek hogyan kezeljék az összetett, valós biztonsági kihívásokat
- Kérésre ésszerű alkalmazkodási lehetőségek biztosítottak
- Sikeres ajánlásonként legfeljebb 340 USD összegű ajánlási kifizetés, az ajánlási korlátozások függvényében