51 – 200 Darbinieki
Mercor pieejamajā profilā nav pietiekami daudz pārbaudītas informācijas par uzņēmuma produktiem, pakalpojumiem, klientiem, darbības nozari vai personāla atlases fokusu, lai sagatavotu precīzu uzņēmuma aprakstu. Lai aprakstītu uzņēmumu vai tā piedāvātās iespējas, nepieciešams papildu avota materiāls.
Mākslīgā intelekta drošības red team speciālists – attālināts darbs Amerikas Savienotajās Valstīs
Mercor meklē attālināta darba mākslīgā intelekta drošības red team speciālistu, kurš pārbaudīs progresīvus MI modeļus un atklās ievainojamības augsta riska jomās. Līguma darbs atbalsta MI laboratorijas progresīvu sistēmu izstrādē un uzlabošanā.
Apraksts
- Izveido pretrunīgas uzvednes progresīvu MI modeļu pārbaudei
- Atklāj jailbreak mēģinājumus, nedrošu uzvedību, halucinācijas un politiku pārkāpumus
- Novērtē modeļu noturību pret dezinformāciju, kiberdraudiem, bioloģiskās drošības riskiem, krāpšanu, politisku saturu un citām sensitīvām tēmām
- Dokumentē atklātās ievainojamības un palīdzi izstrādāt drošības etalonus un red team ziņojumus
- Sadarbojies ar MI pētniekiem, lai stiprinātu modeļu saskaņotību, noturību un drošību
- Piedalies projektos, kuros MI sistēmas tiek apmācītas un uzlabotas
Prasības
- Bakalaura grāds vai augstāka izglītība datorzinātnēs, kiberdrošībā, žurnālistikā, komunikācijā, psiholoģijā, bioloģijā, ķīmijā, sabiedriskajā politikā vai saistītā jomā
- Vismaz piecu gadu profesionālā pieredze MI drošībā, MI red team darbā, uzticamībā un drošībā, kiberdrošībā, pētnieciskajā žurnālistikā, dzīvības zinātnēs vai saistītā jomā
- Spēcīga analītiskā spriestspēja, uzvedņu izstrādes prasmes un rakstiskās saziņas iemaņas
- Pieredze pretrunīgu uzvedņu izveidē vai progresīvu MI sistēmu novērtēšanā
- Pieredze MI red team darbā, RLHF, SFT, MI saskaņošanā vai uzticamības un drošības jomā tiks uzskatīta par priekšrocību
- Jailbreak testēšanas, uzvedņu inženierijas vai pretrunīgas novērtēšanas metožu pārzināšana tiks uzskatīta par priekšrocību
- Ekspertīze vismaz vienā pelēkās zonas jomā, piemēram, kiberdrošībā, bioloģiskajā drošībā, politiskajā saturā, dezinformācijā vai zinātniskajā drošībā, tiks uzskatīta par priekšrocību
- Spēja strādāt kā neatkarīgam darbuzņēmējam
- H-1B un STEM OPT kandidāti netiek atbalstīti
Priekšrocības
- Pilnībā attālināts darbs
- Elastīgs, patstāvīgi plānojams darba grafiks
- Iknedēļas maksājumi, izmantojot Stripe vai Wise
- Atkarībā no uzņēmējdarbības vajadzībām un darba rezultātiem projektus var pagarināt, saīsināt vai izbeigt priekšlaicīgi
- Konkurētspējīgs atalgojums
- Sadarbība ar vadošajiem MI pētniekiem un drošības komandām
- Pēc pieprasījuma ir pieejami saprātīgi pielāgojumi
- Par katru veiksmīgu ieteikumu var saņemt ieteikuma atlīdzību līdz 340 ASV dolāriem, ievērojot piemērojamos ierobežojumus