51 – 200 Alkalmazottak
A Mercor elérhető profilja nem tartalmaz elegendő ellenőrzött információt a termékeiről, szolgáltatásairól, ügyfeleiről, ágazatáról vagy toborzási fókuszáról ahhoz, hogy pontos vállalati bemutatást lehessen készíteni. A vállalkozás vagy az általa kínált lehetőségek ismertetése előtt további forrásanyagokra van szükség.
MI-biztonsági red team szakértő (angol és pandzsábi nyelven)
A Mercor angolul és pandzsábiul beszélő MI-biztonsági szakértőt keres társalgási modellek és ügynökök red team tesztelésére. A szerződéses pozíció célja a sebezhetőségek feltárása, támadási esetek létrehozása és reprodukálható biztonsági jelentések készítése MI-kutatási ügyfelek számára.
Leírás
- Társalgási MI-modellek és ügynökök tesztelése jailbreak-módszerekkel, promptinjektálással, visszaélési forgatókönyvekkel, az elfogultság kihasználásával és többfordulós manipulációval
- Modellkimenetek értékelése érzékeny témákban, többek között elfogultság, félretájékoztatás és káros viselkedés esetén
- A hibák dokumentálása, a sebezhetőségek kategorizálása és rendszerszintű kockázatok azonosítása
- Bevált taxonómiák, benchmarkok és tesztelési útmutatók használata az értékelések következetességének fenntartásához
- Reprodukálható jelentések, adathalmazok és támadási esetek létrehozása az ügyfelek számára
- MI-rendszerek vizsgálata olyan gyenge pontok felderítésére, amelyeket az automatizált tesztelés figyelmen kívül hagyhat
- Az értékelési lefedettség bővítése a gyártási környezetben fellépő váratlan problémák korlátozásának elősegítésére
- Az ügyfelek MI-rendszereinek fejlesztése ember által irányított, adatalapú red team munkával
Követelmények
- Anyanyelvi vagy folyékony angol- és pandzsábitudás
- Erős ítélőképesség a nyelv és a tartalom értékelésében
- Annak megállapítása, hogy az MI-válaszok pontosak, teljesek és megfelelőek-e, valamint az értékelés megindoklásának képessége
- Apró hibákra, következetlenségekre és hiányosságokra kiterjedő aprólékos figyelem
- A tesztelési irányelvek és minőségi szabványok következetes betartása
- Az érvelés világos kommunikációja technikai és nem technikai közönség számára egyaránt
- Rugalmasság a különböző projektek, feladatformátumok és ügyfelek közötti munkavégzéshez
- Független vállalkozóként való munkavégzés vállalása
- Nem igényelhet H-1B- vagy STEM OPT-támogatást
- Előnyt jelenthet többek között az adversarial machine learning, a jailbreak-adathalmazok, a promptinjektálás, az RLHF/DPO-támadások, a modellkinyerés, a penetrációs tesztelés, az exploitfejlesztés, a visszafejtés, a zaklatás vagy dezinformáció vizsgálata, a visszaéléselemzés, a társalgási MI tesztelése, a pszichológia, a színészet vagy az írás terén szerzett szakértelem
Juttatások
- Távoli munkavégzés bárhonnan, ahol ezt a szerep lehetővé teszi
- Saját munkarend kialakítása
- Heti kifizetések fogadása Stripe-on vagy Wise-on keresztül az elvégzett szolgáltatásokért
- A projektek az üzleti igények és a teljesítmény alapján meghosszabbíthatók, csökkenthetők vagy idő előtt lezárhatók
- Jólléti erőforrások és egyértelmű útmutatás biztosítása magasabb érzékenységű projektekhez
- Tapasztalatszerzés emberi adatokon alapuló MI-red team munkában
- Hozzájárulás robusztusabb, biztonságosabb és megbízhatóbb MI-rendszerek létrehozásához
- Versenyképes javadalmazás
- Együttműködés vezető MI-kutatókkal