51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť umelej inteligencie – angličtina a pandžábčina
Práca na diaľku na zmluvu pre odborníkov na bezpečnosť umelej inteligencie s plynulou angličtinou a pandžábčinou, ktorí podporujú projekty red teamingu konverzačnej AI spoločnosti Mercor. Testujte jailbreaky, injekcie promptov, riziká škodlivého obsahu a zraniteľnosti modelov a dokumentujte reprodukovateľné zistenia.
Popis
- Vykonávať adversariálne testovanie konverzačných modelov a agentov umelej inteligencie pomocou jailbreakov, injekcií promptov, scenárov zneužitia, využívania zaujatosti a viacotáčkovej manipulácie
- Vytvárať dáta generované ľuďmi anotovaním zlyhaní, kategorizáciou zraniteľností a identifikáciou systémových rizík
- Používať zavedené taxonómie, benchmarky a testovacie postupy na zachovanie konzistentného hodnotenia
- Pripravovať reprodukovateľné správy, datasety a prípady útokov pre zákazníkov
- Posudzovať výstupy umelej inteligencie z hľadiska zaujatosti, dezinformácií, škodlivého správania a ďalších rizík súvisiacich s citlivým obsahom
- Identifikovať slabé miesta, ktoré môžu automatizované hodnotenia prehliadnuť
- Rozširovať rozsah hodnotenia s cieľom pomôcť obmedziť neočakávané problémy v produkcii
- Zlepšovať systémy umelej inteligencie zákazníkov prostredníctvom štruktúrovaného adversariálneho testovania
Požiadavky
- Plynulá znalosť angličtiny aj pandžábčiny na úrovni rodeného hovoriaceho
- Správny úsudok pri hodnotení jazyka a obsahu
- Schopnosť určiť, či sú odpovede umelej inteligencie presné, úplné a primerané, a vysvetliť toto posúdenie
- Veľká pozornosť venovaná nenápadným chybám, nezrovnalostiam a vynechaniam
- Dôsledné dodržiavanie pokynov a noriem kvality
- Jasná komunikácia odôvodnenia technickému aj netechnickému publiku
- Schopnosť prispôsobiť sa rôznym projektom, formátom úloh a zákazníkom
- Postavenie nezávislého dodávateľa
- Nesmiete byť kandidátom na víza H-1B ani STEM OPT
- Výhodou sú skúsenosti s adversariálnym strojovým učením vrátane datasetov jailbreakov, injekcií promptov, útokov RLHF/DPO alebo extrakcie modelov
- Výhodou sú skúsenosti v kybernetickej bezpečnosti s penetračným testovaním, vývojom exploitov alebo reverzným inžinierstvom
- Výhodou sú skúsenosti so sociotechnickými rizikami vrátane testovania obťažovania alebo dezinformácií, analýzy zneužitia alebo testovania konverzačnej umelej inteligencie
- Výhodou sú skúsenosti z psychológie, herectva alebo písania, ktoré podporujú nekonvenčné adversariálne myslenie
Benefity
- Práca na diaľku
- Flexibilný pracovný čas s možnosťou pracovať podľa vlastného rozvrhu
- Týždenné platby prostredníctvom Stripe alebo Wise
- Projekty môžu byť podľa obchodných potrieb a výkonu predĺžené, skrátené alebo ukončené predčasne
- Voliteľná účasť na projektoch s vyššou citlivosťou
- Poskytnuté sú pravidlá pre obsah a zdroje na podporu duševnej pohody
- Konkurencieschopné odmeňovanie
- Na požiadanie sú k dispozícii primerané úpravy
- Odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie, podľa limitov odporúčaní