51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za red teaming varnosti umetne inteligence – angleščina in tamilščina, delo na daljavo po pogodbi
Preizkušajte pogovorne modele in agente umetne inteligence glede ranljivosti z nasprotnikovim preizkušanjem in strukturirano red-team analizo. Ustvarjajte napadalne primere, podatke o ranljivostih in ponovljive poročila za stranke Mercorjevega laboratorija za umetno inteligenco.
Opis
- Preizkušajte pogovorne modele in agente umetne inteligence z jailbreaki, prompt injectionom, scenariji zlorabe, izkoriščanjem pristranskosti in večstopenjsko manipulacijo
- Ustvarjajte podatke z oznakami ljudi tako, da dokumentirate napake, razvrščate ranljivosti in prepoznavate sistemska tveganja
- Uporabljajte uveljavljene taksonomije, referenčne teste in priročnike za dosledno ocenjevanje
- Razvijajte ponovljiva poročila, nabore podatkov in napadalne primere za stranke
- Ocenjujte izhode umetne inteligence, povezane s pristranskostjo, dezinformacijami, škodljivim vedenjem in drugimi občutljivimi temami
- Prepoznavate slabosti, ki jih avtomatizirano testiranje lahko spregleda
- Širite pokritost ocenjevanja in pomagajte preprečevati nepričakovane težave v produkciji
- Izboljšujte sisteme umetne inteligence strank ter prispevajte k varnejšim in zanesljivejšim modelom
Zahteve
- Znanje angleščine in tamilščine na ravni maternega govorca
- Zdrava presoja pri ocenjevanju jezika in vsebine
- Sposobnost ugotoviti, ali so odgovori umetne inteligence točni, popolni in ustrezni, ter pojasniti oceno
- Skrbna pozornost do subtilnih napak, nedoslednosti in izpustov
- Sposobnost dosledne uporabe smernic in standardov kakovosti
- Jasno sporočanje razlogov tehničnemu in netehničnemu občinstvu
- Prilagodljivost pri različnih projektih, oblikah nalog in strankah
- Prednost: izkušnje z nasprotnikovim strojnim učenjem, vključno z nabori podatkov za jailbreak, napadi prompt injection, napadi RLHF ali DPO oziroma ekstrakcijo modelov
- Prednost: znanje s področja kibernetske varnosti, vključno s penetracijskim testiranjem, razvojem izkoriščevalskih programov ali obratnim inženirstvom
- Prednost: izkušnje s sociotehničnimi tveganji, kot so preizkušanje nadlegovanja in dezinformacij, analiza zlorab ali testiranje pogovorne umetne inteligence
- Prednost: ustvarjalne izkušnje s preizkušanjem na področju psihologije, igranja ali pisanja
- Delo morate opravljati kot neodvisni pogodbeni izvajalec
- Kandidati z vizumoma H-1B in STEM OPT niso podprti
Ugodnosti
- Popolnoma delo na daljavo
- Prilagodljiv urnik z možnostjo, da si sami določite delovni čas
- Tedenska plačila prek Stripe ali Wise
- Konkurenčno urno plačilo
- Priložnost za pridobivanje izkušenj z red teamingom umetne inteligence, ki temelji na človeških podatkih in je osredotočen na varnost naprednih modelov
- Neposreden prispevek k robustnejšim, varnejšim in zaupanja vrednejšim sistemom umetne inteligence
- Možnost prostovoljne udeležbe pri projektih z večjo občutljivostjo
- Smernice in viri za dobro počutje pri projektih, ki vključujejo občutljivo vsebino
- Na zahtevo so na voljo razumne prilagoditve
- Program priporočil, ki ponuja do 90 USD za vsako uspešno priporočilo, ob upoštevanju omejitev programa