51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Odborník na bezpečnosť AI na diaľku (angličtina a maráthčina) v spoločnosti Mercor
Testujte konverzačné modely AI na zraniteľnosti pomocou red-team testovania v angličtine a maráthčine. Vytvárajte reprodukovateľné súbory údajov, útokové prípady a správy pre projekty bezpečnosti AI založené na ľudských dátach.
Popis
- Vykonávajte red-team testovanie konverzačných modelov a agentov AI pomocou jailbreakov, injektáže promptov, scenárov zneužitia, zneužitia zaujatosti a viacotáčkovej manipulácie
- Vytvárajte ľudské dáta anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používajte taxonómie, benchmarky a playbooky na udržiavanie konzistentných hodnotení
- Vytvárajte reprodukovateľné správy, súbory údajov a útokové prípady pre zákazníkov
- Posudzujte výstupy AI týkajúce sa citlivých tém vrátane zaujatosti, dezinformácií a škodlivého správania
- Identifikujte slabiny, ktoré môže automatizované testovanie prehliadnuť
- Rozširujte pokrytie hodnotenia s cieľom pomôcť predchádzať neočakávaným problémom v produkcii
- Podporujte zákazníkov pri zlepšovaní bezpečnosti, odolnosti a dôveryhodnosti ich systémov AI
Požiadavky
- Vyžaduje sa plynulá alebo rodná znalosť angličtiny a maráthčiny
- Dobrý úsudok pri práci s jazykom a obsahom vrátane schopnosti posúdiť, či sú odpovede AI presné, úplné a vhodné, a vysvetliť svoje zdôvodnenie
- Mimoriadna pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam
- Dôsledné dodržiavanie zavedených usmernení a štandardov kvality
- Jasná komunikácia zdôvodnenia s technickým aj netechnickým publikom
- Schopnosť prispôsobiť sa rôznym projektom, formátom úloh a zákazníkom
- Musíte pracovať ako nezávislý dodávateľ
- Kandidáti s vízami H1-B a STEM OPT nie sú podporovaní
- Výhodou sú skúsenosti s adversariálnym strojovým učením vrátane datasetov jailbreakov, injektáže promptov, útokov RLHF alebo DPO či extrakcie modelov
- Výhodou sú skúsenosti s kybernetickou bezpečnosťou v oblasti penetračného testovania, vývoja exploitov alebo reverzného inžinierstva
- Výhodou sú skúsenosti so sociotechnickými rizikami vrátane skúmania obťažovania alebo dezinformácií, analýzy zneužitia či testovania konverzačnej AI
- Výhodou sú skúsenosti z psychológie, herectva alebo písania, ktoré podporujú nekonvenčné adversariálne myslenie
Benefity
- Plne vzdialená práca
- Flexibilný pracovný čas s možnosťou zvoliť si vlastné hodiny
- Týždenné platby prostredníctvom Stripe alebo Wise podľa poskytnutých služieb
- Trvanie projektu môže byť podľa obchodných potrieb a výkonu predĺžené, skrátené alebo ukončené skôr
- Wellness zdroje a jasné usmernenia pre projekty zahŕňajúce obsah s vyššou citlivosťou
- Na požiadanie sú k dispozícii primerané úpravy podmienok
- Odporúčací program ponúka až 90 USD za každé úspešné odporúčanie bez obmedzenia počtu odporúčaní
- Príležitosť spolupracovať s poprednými výskumníkmi
- Skúsenosť s red-team testovaním AI založeným na ľudských dátach na špici bezpečnosti AI