51 – 200 Zaposleni
Razpoložljivi profil podjetja Mercor ne vsebuje dovolj preverjenih informacij o njegovih izdelkih, storitvah, strankah, panogi ali področju zaposlovanja, da bi bilo mogoče pripraviti natančen pregled podjetja. Pred opisom poslovanja ali zaposlitvenih priložnosti je potrebno dodatno izvorno gradivo.
Oddaljeni strokovnjak za varnost umetne inteligence (angleščina in odijščina) – pogodbeno delo
Mercor išče strokovnjaka za varnost umetne inteligence, ki tekoče govori angleško in odijščino ter bo izvajal red-team testiranje pogovornih modelov umetne inteligence za usposabljanje naprednih modelov. Delo vključuje ustvarjanje opomb o ranljivostih, napadalnih primerov, podatkovnih zbirk in ponovljivih poročil o varnosti.
Opis
- Testiranje pogovornih modelov in agentov umetne inteligence z uporabo jailbreakov, vbrizgavanja pozivov, scenarijev zlorabe, izkoriščanja pristranskosti in večkrožne manipulacije.
- Dokumentiranje napak, kategoriziranje ranljivosti in prepoznavanje sistemskih tveganj.
- Uporaba uveljavljenih taksonomij, primerjalnih testov in priročnikov za dosledno izvajanje ocenjevanj.
- Ustvarjanje ponovljivih poročil o varnosti, podatkovnih zbirk in napadalnih primerov.
- Preiskovanje izhodov modelov glede pristranskosti, dezinformacij in škodljivega vedenja.
- Podpora usposabljanju in izboljševanju naprednih sistemov umetne inteligence za Mercorjev laboratorij za umetno inteligenco in poslovne stranke.
Zahteve
- Tekoče znanje angleščine in odijščine na ravni maternega govorca.
- Zdrava presoja pri ocenjevanju jezika in vsebine.
- Sposobnost ugotoviti, ali so odgovori umetne inteligence točni, popolni in primerni, ter pojasniti razloge.
- Izjemna pozornost do subtilnih napak, nedoslednosti in izpustov.
- Sposobnost zanesljivega upoštevanja smernic in standardov kakovosti.
- Sposobnost jasnega sporočanja razlogov tehničnemu in netehničnemu občinstvu.
- Prilagodljivost pri delu na različnih projektih, v različnih formatih nalog in za različne stranke.
- Pripravljenost na delo kot neodvisni pogodbeni izvajalec.
- Kandidati ne smejo biti kandidati za H-1B ali STEM OPT.
- Izkušnje ali specializacija na področju napadalnega strojnega učenja, kibernetske varnosti, sociotehničnega tveganja ali ustvarjalnega preizkušanja so zaželene.
Ugodnosti
- Popolnoma oddaljeno delo.
- Prilagodljiv urnik.
- Možnost prostovoljne udeležbe pri projektih z večjo občutljivostjo.
- Smernice in viri za dobro počutje pri projektih, ki vključujejo občutljivo vsebino.
- Tedenska plačila prek Stripe ali Wise.
- Konkurenčno plačilo.
- Priložnost za sodelovanje z vodilnimi raziskovalci.
- Nagrade za priporočila do 90 USD za vsako uspešno priporočilo.