51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence na daljavo (angleščina in maratščina) pri Mercorju
Preizkušajte ranljivosti pogovornih modelov umetne inteligence z red-team testiranjem v angleščini in maratščini. Ustvarjajte ponovljive nabore podatkov, napadalne primere in poročila za projekte varnosti umetne inteligence, ki temeljijo na človeških podatkih.
Opis
- Izvajajte red-team testiranje pogovornih modelov in agentov umetne inteligence z jailbreaki, vbrizgavanjem pozivov, scenariji zlorabe, izkoriščanjem pristranskosti in večkrožno manipulacijo
- Ustvarjajte človeške podatke z označevanjem napak, kategoriziranjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporabljajte taksonomije, primerjalne teste in priročnike za dosledno ocenjevanje
- Razvijajte ponovljiva poročila, nabore podatkov in napadalne primere za stranke
- Ocenjujte rezultate umetne inteligence, ki vključujejo občutljive teme, vključno s pristranskostjo, dezinformacijami in škodljivim vedenjem
- Prepoznajte slabosti, ki jih avtomatizirano testiranje morda spregleda
- Razširjajte obseg ocenjevanja, da bi pomagali preprečiti nepričakovane težave v produkciji
- Podpirajte stranke pri izboljšanju varnosti, robustnosti in zaupanja vrednosti njihovih sistemov umetne inteligence
Zahteve
- Zahtevano je tekoče ali materno znanje angleščine in maratščine
- Dobra presoja jezika in vsebine, vključno s sposobnostjo ocenjevanja, ali so odgovori umetne inteligence točni, popolni in ustrezni, ter pojasnjevanja razlogov
- Izjemna pozornost do subtilnih napak, nedoslednosti in izpustov
- Dosledno upoštevanje uveljavljenih smernic in standardov kakovosti
- Jasno sporočanje razlogov tehničnemu in netehničnemu občinstvu
- Sposobnost prilagajanja različnim projektom, oblikam nalog in strankam
- Delati morate kot neodvisni pogodbeni izvajalec
- Kandidati z vizumoma H1-B in STEM OPT niso podprti
- Prednost so izkušnje z adversarialnim strojnim učenjem, vključno z nabori podatkov za jailbreak, vbrizgavanjem pozivov, napadi RLHF ali DPO oziroma pridobivanjem modelov
- Prednost so izkušnje s kibernetsko varnostjo na področju penetracijskega testiranja, razvoja izkoriščanj ali povratnega inženirstva
- Prednost so izkušnje s sociotehničnimi tveganji, vključno s preiskovanjem nadlegovanja ali dezinformacij, analizo zlorab ali testiranjem pogovorne umetne inteligence
- Prednost so izkušnje iz psihologije, igranja ali pisanja, ki podpirajo nekonvencionalno adversarialno razmišljanje
Ugodnosti
- Popolnoma delo na daljavo
- Prilagodljiv urnik z možnostjo izbire delovnega časa
- Tedenska plačila prek Stripe ali Wise glede na opravljene storitve
- Trajanje projekta se lahko glede na poslovne potrebe in uspešnost podaljša, skrajša ali predčasno konča
- Viri za dobro počutje in jasne smernice za projekte, ki vključujejo vsebine z večjo občutljivostjo
- Na zahtevo so na voljo razumne prilagoditve
- Program priporočil ponuja do 90 USD za vsako uspešno priporočilo, brez omejitve števila priporočil
- Priložnost za sodelovanje z vodilnimi raziskovalci
- Priložnost za pridobivanje izkušenj z red-team testiranjem umetne inteligence na podlagi človeških podatkov v ospredju varnosti umetne inteligence