51 – 200 Töötajad
Mercori kättesaadav profiil ei sisalda piisavalt kontrollitud teavet ettevõtte toodete, teenuste, klientide, tegevusvaldkonna või värbamisfookuse kohta, et koostada täpne ettevõtte ülevaade. Ettevõtte või selle pakutavate võimaluste kirjeldamiseks on vaja täiendavat lähtematerjali.
Tehisintellekti ohutuse red team'i spetsialist – kaugtöö Ameerika Ühendriikides
Mercor otsib kaugtööle tehisintellekti ohutuse red team'i spetsialisti, kes paneks tipptasemel tehisintellektimudelid proovile ja avastaks kõrge riskiga valdkondades haavatavusi. Lepinguline töö toetab tehisintellektilaboreid täiustatud süsteemide arendamisel ja täiustamisel.
Kirjeldus
- Koosta vastandlikke viipasid tipptasemel tehisintellektimudelite testimiseks
- Tuvasta jailbreak'id, ebaturvaline käitumine, hallutsinatsioonid ja eeskirjade rikkumised
- Hinda mudelite vastupidavust väärinfole, küberohtudele, biojulgeolekuriskidele, pettustele, poliitilisele sisule ja muudele tundlikele teemadele
- Dokumenteeri avastatud haavatavused ning aita koostada ohutuse võrdlusnäitajaid ja red team'i aruandeid
- Tee tehisintellekti teadlastega koostööd mudelite joondatuse, vastupidavuse ja ohutuse tugevdamiseks
- Panusta projektidesse, mille käigus tehisintellektisüsteeme treenitakse ja täiustatakse
Nõuded
- Bakalaureusekraad või kõrgem haridus informaatika, küberturvalisuse, ajakirjanduse, kommunikatsiooni, psühholoogia, bioloogia, keemia, avaliku poliitika või seotud valdkonnas
- Vähemalt viis aastat erialast kogemust tehisintellekti ohutuse, tehisintellekti red team'i töö, usaldusväärsuse ja ohutuse, küberturvalisuse, uuriva ajakirjanduse, bioteaduste või seotud valdkonnas
- Tugev analüütiline otsustusvõime, viipade kujundamise oskus ja kirjalik suhtlusoskus
- Kogemus vastandlike viipade koostamisel või tipptasemel tehisintellektisüsteemide hindamisel
- Tehisintellekti red team'i, RLHF-i, SFT, tehisintellekti joondamise või usaldusväärsuse ja ohutuse kogemus tuleb kasuks
- Jailbreak-testimise, viipade kujundamise või vastandlike hindamismeetodite tundmine tuleb kasuks
- Vähemalt ühe halli ala valdkonna, näiteks küberturvalisuse, biojulgeoleku, poliitilise sisu, väärinfo või teadusohutuse, põhjalik tundmine tuleb kasuks
- Valmidus töötada sõltumatu lepingupartnerina
- H-1B ja STEM OPT kandidaate ei toetata
Hüved
- Täielikult kaugtöö
- Paindlik, iseseisvalt korraldatav töögraafik
- Iganädalased maksed Stripe'i või Wise'i kaudu
- Projekte võidakse ärivajaduste ja töösoorituse põhjal pikendada, lühendada või ennetähtaegselt lõpetada
- Konkurentsivõimeline tasu
- Koostöö juhtivate tehisintellekti teadlaste ja ohutustiimidega
- Taotluse alusel on saadaval mõistlikud kohandused
- Iga eduka soovituse eest võib saada kuni 340 USA dollari suuruse soovitustasu vastavalt kohaldatavatele piirangutele