51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Oddaljeni strokovnjak za varnost umetne inteligence (angleščina in tamilščina)
Mercor išče angleško in tamilsko govorečega strokovnjaka za varnost umetne inteligence za red teaming pogovornih modelov in agentov. Delo po pogodbi je osredotočeno na prepoznavanje ranljivosti, ocenjevanje občutljivih izhodov ter ustvarjanje ponovljivih varnostnih podatkov za usposabljanje napredne umetne inteligence.
Opis
- Izvajanje red teaminga pogovornih modelov in agentov umetne inteligence z uporabo jailbreakov, prompt injectiona, scenarijev zlorabe, izkoriščanja pristranskosti in večkrožne manipulacije
- Označevanje napak, kategoriziranje ranljivosti in prepoznavanje sistemskih tveganj
- Dosledna uporaba uveljavljenih taksonomij, primerjalnih testov in postopkov testiranja
- Ustvarjanje ponovljivih poročil, podatkovnih zbirk in primerov napadov
- Ocenjevanje izhodov umetne inteligence, ki vključujejo pristranskost, dezinformacije, škodljivo vedenje in druge občutljive teme
- Širjenje obsega ocenjevanja z iskanjem šibkosti, ki jih avtomatizirano testiranje morda spregleda
- Sodelovanje s projektnimi ekipami, ki razvijajo in izboljšujejo napredne sisteme umetne inteligence
Zahteve
- Materno ali tekoče znanje angleščine in tamilščine
- Preudarna presoja pri ocenjevanju jezika in vsebine
- Sposobnost ugotoviti, ali so odgovori umetne inteligence točni, popolni in primerni
- Izostrena pozornost do subtilnih napak, nedoslednosti in opustitev
- Dosledno upoštevanje smernic in standardov kakovosti
- Sposobnost jasnega sporočanja razlogov tehničnemu in netehničnemu občinstvu
- Prilagodljivost pri različnih projektih, oblikah nalog in strankah
- Razpoložljivost za delo kot samostojni pogodbeni izvajalec
- Ne sme potrebovati sponzorstva za vizum H-1B ali STEM OPT
- Zaželene so izkušnje na področju napadalnega strojnega učenja, kibernetske varnosti, sociotehničnega tveganja ali ustvarjalnega preizkušanja
Ugodnosti
- Popolnoma oddaljeno delo
- Prilagodljiv urnik
- Tedenska plačila prek Stripe ali Wise
- Konkurenčno plačilo
- Pridobivanje izkušenj z red teamingom umetne inteligence, ki temelji na podatkih ljudi
- Pomoč pri zagotavljanju odpornejših, varnejših in zaupanja vrednejših sistemov umetne inteligence
- Sodelovanje z vodilnimi raziskovalci
- Na zahtevo so na voljo razumne prilagoditve
- Plačila za priporočila do 90 USD za vsako uspešno priporočilo