51 – 200 Alkalmazottak
A Mercor elérhető profilja nem tartalmaz elegendő ellenőrzött információt a termékeiről, szolgáltatásairól, ügyfeleiről, ágazatáról vagy toborzási fókuszáról ahhoz, hogy pontos vállalati bemutatást lehessen készíteni. A vállalkozás vagy az általa kínált lehetőségek ismertetése előtt további forrásanyagokra van szükség.
AI-biztonsági vörös csapat szakértő - Egyesült Államok, távoli szerződéses munka
A Mercor szerződéses AI-biztonsági vörös csapat szakértőt keres, aki próbára teszi a legmodernebb AI-modelleket és feltárja azok sebezhetőségeit. A szerepkör magas kockázatú területekre összpontosít, és biztonságosabb, megbízhatóbb AI-rendszerek fejlesztését támogatja.
Leírás
- Ellentétes támadási promptok létrehozása a legmodernebb AI-modellek szigorú tesztelésére
- Jailbreak-kísérletek, nem biztonságos viselkedés, hallucinációk és a biztonsági irányelvek be nem tartásának felismerése
- A modellek ellenálló képességének értékelése dezinformáció, kiberbiztonság, biológiai biztonság, csalás, politikai tartalom és egyéb érzékeny területeken
- A feltárt gyengeségek rögzítése, valamint hozzájárulás biztonsági benchmarkokhoz és vörös csapatos jelentésekhez
- Együttműködés AI-kutatókkal a modellillesztés, a robusztusság és a biztonság fejlesztésén
- A feltörekvő, legmodernebb AI-rendszerek védelmének és fejlesztésének támogatása
- Annak alakítása, hogyan kezelik az AI-modellek a nehéz biztonsági helyzeteket valós környezetben
Követelmények
- Alapképzésben vagy magasabb szinten szerzett diploma számítástechnika, kiberbiztonság, újságírás, kommunikáció, pszichológia, biológia, kémia, közpolitika vagy kapcsolódó területen
- Legalább ötéves szakmai tapasztalat AI-biztonság, AI-vörös csapatos tesztelés, bizalom és biztonság, kiberbiztonság, oknyomozó újságírás, élettudományok vagy kapcsolódó területen
- Erős analitikus ítélőképesség, promptfejlesztési készség és írásbeli kommunikációs képesség
- Gyakorlati tapasztalat ellentétes támadási promptok létrehozásában vagy legmodernebb AI-rendszerek értékelésében
- Előnyt jelent AI-vörös csapatos tesztelésben, RLHF-ben, SFT-ben, AI-illesztésben vagy bizalom és biztonság területén szerzett háttér
- Előnyt jelent a jailbreak-értékelések, a promptmérnökség vagy az ellentétes értékelési módszerek ismerete
- Előnyt jelent a kiberbiztonság, a biológiai biztonság, a politikai tartalom, a dezinformáció vagy a tudományos biztonság olyan árnyalt területein szerzett szakértelem
- Független vállalkozóként való munkavégzés vállalása
- H-1B- és STEM OPT-jelöltek számára nem biztosított támogatás
Juttatások
- Teljesen távoli munkavégzés
- Saját munkaidő beosztása és a feladatok rugalmas ütemezésben történő elvégzése
- Heti kifizetések fogadása Stripe-on vagy Wise-on keresztül
- A projekt időtartama az üzleti igényektől és a teljesítménytől függően változhat vagy korábban véget érhet
- Versenyképes javadalmazás
- Együttműködés vezető AI-kutatókkal és biztonsági csapatokkal
- Kérésre ésszerű alkalmazkodást biztosítanak
- Ajánlási program, amely minden sikeres ajánlásért legfeljebb 340 dollárt kínál, az ajánlási korlátozások függvényében