51 – 200 Töötajad
Mercori kättesaadav profiil ei sisalda piisavalt kontrollitud teavet ettevõtte toodete, teenuste, klientide, tegevusvaldkonna või värbamisfookuse kohta, et koostada täpne ettevõtte ülevaade. Ettevõtte või selle pakutavate võimaluste kirjeldamiseks on vaja täiendavat lähtematerjali.
Tehisintellekti mudelite ohutuse red team’i spetsialist
Testi Mercori kõige arenenumaid tehisintellekti mudeleid turvaaukude leidmiseks vastandlike katsetega. Tuvasta haavatavused ja aita parandada mudelite joondatust.
Kirjeldus
- Koosta vastandlikke viipasid kõige arenenumate tehisintellekti mudelite testimiseks.
- Tuvasta jailbreak’id, ohtlik käitumine, hallutsinatsioonid ja eeskirjade rikkumised.
- Testi mudelite vastupidavust väärinfole, küberturvalisuse ja bioturvalisuse ohtudele, pettustele, poliitilisele sisule ja muudele tundlikele teemadele.
- Pane haavatavused kirja ning aita koostada ohutuse võrdlusteste ja red team’i aruandeid.
- Tee tehisintellekti uurijatega koostööd, et tugevdada mudelite joondatust, vastupidavust ja ohutust.
- Aita kaitsta ja täiustada kõige arenenumate tehisintellekti mudelite järgmist põlvkonda.
- Panusta projektidesse, millega tehisintellekti süsteeme treenitakse ja täiustatakse.
Nõuded
- Vähemalt bakalaureusekraad arvutiteaduses, küberturvalisuses, ajakirjanduses, kommunikatsioonis, psühholoogias, bioloogias, keemias, avalikus poliitikas või seotud valdkonnas
- Vähemalt viieaastane töökogemus tehisintellekti ohutuse, tehisintellekti red team’i testimise, usalduse ja ohutuse, küberturvalisuse, uuriva ajakirjanduse, bioteaduste või seotud valdkonnas
- Tugev analüütiline mõtlemine ning head viipade koostamise ja kirjutamise oskused
- Kogemus vastandlike viipade loomisel või kõige arenenumate tehisintellekti süsteemide hindamisel
- Kogemus tehisintellekti red team’i testimise, RLHF-i, juhendatud peenhäälestuse, tehisintellekti joondatuse või usalduse ja ohutuse valdkonnas tuleb kasuks
- Jailbreak-testimise, viibetehnika või vastandlike hindamismeetodite tundmine tuleb kasuks
- Asjatundlikkus vähemalt ühes tundlikus valdkonnas, näiteks küberturvalisuses, bioturvalisuses, poliitilises sisus, väärinfos või teaduse ohutuses, tuleb kasuks
- Tööle ei saa kandideerida, kui vajad H-1B või STEM OPT sponsorlust; Mercor ei saa toetada kandidaate, kes vajavad kumbagi sponsorluse vormi
Hüved
- Täielikult kaugtööna tehtav töö paindliku graafikuga
- Iganädalased maksed Stripe’i või Wise’i kaudu tehtud töö eest
- Projekti kestus võib muutuda või projekt vajaduste ja töötulemuste tõttu varem lõppeda
- Tee koostööd juhtivate tehisintellekti uurijate ja ohutustiimidega
- Aita kujundada seda, kuidas tehisintellekti süsteemid lahendavad keerukaid tegeliku elu ohutusprobleeme
- Taotluse korral pakutakse mõistlikke kohandusi
- Edukate soovituste eest makstakse kuni 340 dollarit, piirangute kohaselt