51 – 200 Zamestnanci
Dostupný profil spoločnosti Mercor neobsahuje dostatok overených informácií o jej produktoch, službách, zákazníkoch, odvetví ani náborovom zameraní, aby bolo možné vytvoriť presný prehľad o spoločnosti. Pred opísaním podnikania alebo pracovných príležitostí sú potrebné ďalšie zdrojové materiály.
Expert na bezpečnosť AI (angličtina a tamilčina) – vzdialená zmluvná práca
Mercor hľadá odborníka na bezpečnosť AI, ktorý hovorí po anglicky a tamilsky, na red teaming konverzačných modelov a agentov. Zmluvná pozícia sa zameriava na identifikáciu zraniteľností, tvorbu hodnotiacich údajov a prípravu reprodukovateľných bezpečnostných správ.
Popis
- Vykonávať adversariálne testovanie konverzačných modelov a agentov AI pomocou jailbreakov, injektáže promptov, scenárov zneužitia, využívania predsudkov a viacotáčkovej manipulácie.
- Vytvárať údaje generované ľuďmi anotovaním zlyhaní, kategorizovaním zraniteľností a identifikovaním systémových rizík.
- Používať zavedené taxonómie, benchmarky a pracovné postupy na zabezpečenie konzistentného hodnotenia.
- Dodávať zákazníkom reprodukovateľné správy, datasety a prípady útokov.
- Posudzovať výstupy AI týkajúce sa citlivých tém vrátane predsudkov, dezinformácií a škodlivého správania.
- Identifikovať slabiny, ktoré môžu automatizované metódy hodnotenia prehliadnuť.
- Rozširovať pokrytie hodnotenia s cieľom pomôcť minimalizovať neočakávané problémy v produkcii.
- Zlepšovať systémy AI zákazníkov prostredníctvom štruktúrovaného adversariálneho testovania.
Požiadavky
- Rodilá alebo plynulá znalosť angličtiny a tamilčiny.
- Správny úsudok pri hodnotení jazyka a obsahu.
- Schopnosť určiť, či sú odpovede AI presné, úplné a vhodné, a vysvetliť svoje uvažovanie.
- Veľká pozornosť venovaná jemným chybám, nezrovnalostiam a opomenutiam.
- Dôsledné dodržiavanie usmernení a štandardov kvality.
- Schopnosť jasne komunikovať svoje uvažovanie technickému aj netechnickému publiku.
- Prispôsobivosť rôznym projektom, formátom úloh a zákazníkom.
- Schopnosť pracovať ako nezávislý zmluvný dodávateľ.
- Kandidáti s vízami H1-B a STEM OPT nie sú podporovaní.
- Výhodou sú skúsenosti s adversariálnym strojovým učením vrátane datasetov jailbreakov, útokov injektážou promptov, útokov RLHF alebo DPO či extrakcie modelov.
- Výhodou sú skúsenosti v kybernetickej bezpečnosti s penetračným testovaním, vývojom exploitov alebo reverzným inžinierstvom.
- Výhodou sú skúsenosti so sociotechnickými rizikami vrátane skúmania obťažovania alebo dezinformácií, analýzy zneužitia či testovania konverzačnej AI.
- Výhodou sú skúsenosti s kreatívnym skúmaním v psychológii, herectve alebo písaní.
Benefity
- Práca úplne na diaľku.
- Flexibilný pracovný čas s možnosťou nastaviť si vlastné hodiny.
- Týždenné platby prostredníctvom Stripe alebo Wise.
- Voliteľná účasť na projektoch s vyššou citlivosťou.
- Jasné usmernenia a zdroje na podporu duševnej pohody pri práci s citlivým obsahom.
- Konkurenčná hodinová odmena.
- Príležitosť spolupracovať s poprednými výskumníkmi.
- Odmeny za odporúčania až do výšky 90 USD za každé úspešné odporúčanie, s výhradou príslušných limitov.
- Na požiadanie sú k dispozícii primerané úpravy pracovných podmienok.