51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Strokovnjak za varnost umetne inteligence – angleščina in maratščina (delo na daljavo)
Mercor išče strokovnjake za varnost umetne inteligence, ki govorijo angleško in maratščino, za red-team testiranje pogovornih modelov in agentov. Delo vključuje prepoznavanje ranljivosti, ocenjevanje občutljivih izhodov ter pripravo ponovljivih varnostnih podatkov za laboratorije in stranke na področju umetne inteligence.
Opis
- Izvajanje red-team testiranja pogovornih modelov in agentov umetne inteligence z uporabo jailbreakov, prompt injection napadov, scenarijev zlorabe, izkoriščanja pristranskosti in večkrožne manipulacije
- Ustvarjanje podatkov za človeško ocenjevanje z označevanjem napak, razvrščanjem ranljivosti in prepoznavanjem sistemskih tveganj
- Uporaba uveljavljenih taksonomij, primerjalnih testov in priročnikov za dosledno ocenjevanje
- Razvoj ponovljivih poročil, podatkovnih zbirk in primerov napadov za stranke
- Ocenjevanje izhodov umetne inteligence, povezanih s pristranskostjo, dezinformacijami, škodljivim vedenjem in drugimi občutljivimi temami
- Prepoznavanje ranljivosti, ki jih avtomatizirano testiranje morda spregleda
- Širjenje obsega ocenjevanja za zmanjšanje nepričakovanih težav v produkciji
- Podpora strankam pri izboljševanju varnosti, robustnosti in zanesljivosti njihovih sistemov umetne inteligence
Zahteve
- Tekoče znanje angleščine in maratščine na ravni maternega govorca
- Odlična presoja pri ocenjevanju jezika in vsebine, vključno s presojo, ali so odgovori umetne inteligence točni, popolni in ustrezni
- Sposobnost zaznavanja subtilnih napak, nedoslednosti in izpustov
- Sposobnost doslednega upoštevanja smernic in standardov kakovosti
- Sposobnost jasnega sporočanja razlogov tehničnemu in netehničnemu občinstvu
- Prilagodljivost različnim projektom, vrstam nalog in strankam
- Sposobnost dela kot neodvisni pogodbeni sodelavec
- Ne sme biti potrebna podpora za vizum H-1B ali STEM OPT
- Prednost so izkušnje z adversarnim strojnim učenjem, vključno z zbirkami podatkov za jailbreak napade, prompt injection napadi, napadi RLHF ali DPO oziroma ekstrakcijo modelov
- Prednost so izkušnje na področju kibernetske varnosti, vključno s penetracijskim testiranjem, razvojem izkoriščevalskih programov ali obratnim inženirstvom
- Prednost so izkušnje s sociotehničnimi tveganji, vključno s preizkušanjem nadlegovanja ali dezinformacij, analizo zlorab ali testiranjem pogovorne umetne inteligence
- Prednost so izkušnje iz psihologije, igranja ali pisanja, ki podpirajo nekonvencionalno adversarno razmišljanje
Ugodnosti
- Popolnoma oddaljeno delo, ki ga je mogoče opravljati po lastnem urniku
- Tedenska plačila prek Stripe ali Wise
- Možnost prostovoljne udeležbe pri projektih z višjo stopnjo občutljivosti
- Jasne smernice in viri za dobro počutje pri delu z občutljivo vsebino
- Konkurenčno plačilo
- Priložnost za sodelovanje z vodilnimi raziskovalci
- Nagrade za priporočila v višini do 90 USD za vsako uspešno priporočilo, ob upoštevanju omejitev