51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Odborník na bezpečnosť AI pre angličtinu a holandčinu (práca na diaľku na zmluvu)
Spoločnosť Mercor hľadá odborníkov na bezpečnosť AI, ktorí hovoria po anglicky a po holandsky, na red teaming konverzačných modelov a agentov. Práca zahŕňa vytváranie údajov o zraniteľnostiach, útočných scenárov a reprodukovateľných správ o bezpečnosti pre vývoj pokročilej AI.
Popis
- Testovať konverzačné modely a agentov AI pomocou jailbreakov, vstrekovania promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Vytvárať údaje generované ľuďmi anotovaním zlyhaní, klasifikovaním zraniteľností a identifikovaním systémových rizík
- Používať taxonómie, benchmarky a príručky na podporu konzistentného testovania bezpečnosti
- Vypracúvať reprodukovateľné správy, súbory údajov a útočné prípady pre zákazníkov
- Hľadať zraniteľnosti, ktoré môže automatizované testovanie prehliadnuť
- Rozširovať pokrytie hodnotenia s cieľom pomôcť znižovať neočakávané produkčné riziká
- Spolupracovať s poprednými výskumníkmi na trénovaní a zlepšovaní pokročilých systémov AI
Požiadavky
- Rodilá plynulosť v angličtine a holandčine
- Predchádzajúce skúsenosti s red teamingom AI, ofenzívnou kybernetickou bezpečnosťou alebo sociotechnickým skúmaním
- Schopnosť adversariálne testovať systémy AI a privádzať ich do podmienok vedúcich k zlyhaniu
- Skúsenosti s uplatňovaním rámcov alebo benchmarkov pri štruktúrovanom testovaní
- Schopnosť jasne komunikovať riziká technickému aj netechnickému publiku
- Schopnosť prispôsobiť sa rôznym projektom a zákazníkom
- Skúsenosti s adversariálnym strojovým učením vrátane súborov údajov jailbreakov, vstrekovania promptov, útokov RLHF/DPO alebo extrakcie modelov sú výhodou
- Skúsenosti s kybernetickou bezpečnosťou v oblasti penetračného testovania, vývoja exploitov alebo reverzného inžinierstva sú výhodou
- Skúsenosti so sociotechnickými rizikami vrátane skúmania obťažovania alebo dezinformácií, analýzy zneužitia alebo testovania konverzačnej AI sú výhodou
- Kreatívne skúsenosti so skúmaním v psychológii, herectve alebo písaní sú výhodou
- Musíte byť schopní pracovať ako nezávislý zmluvný dodávateľ
- Uchádzači s vízami H-1B a STEM OPT nie sú podporovaní
Benefity
- Práca úplne na diaľku
- Flexibilný pracovný čas s možnosťou nastaviť si vlastné hodiny
- Týždenné platby prostredníctvom Stripe alebo Wise na základe poskytnutých služieb
- Projekty môžu byť predĺžené, skrátené alebo predčasne ukončené podľa obchodných potrieb a výkonu
- Účasť na projektoch s vyššou citlivosťou je voliteľná
- Poskytujú sa obsahové usmernenia a zdroje na podporu duševnej pohody
- Na požiadanie sú k dispozícii primerané úpravy
- Konkurenčná hodinová odmena
- Možnosť odporúčania s odmenou až 250 USD za každé úspešné odporúčanie, s prihliadnutím na limity