51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuuden red team -asiantuntija (englanti ja pandžabi)
Mercor etsii englantia ja pandžabia puhuvaa tekoälyn turvallisuuden asiantuntijaa keskustelumallien ja agenttien red team -testaukseen. Työssä etsitään haavoittuvuuksia, luodaan hyökkäystapauksia ja laaditaan toistettavia turvallisuusraportteja tekoälytutkimuksen asiakkaille.
Kuvaus
- Testaa keskustelevaa tekoälyä hyödyntäviä malleja ja agentteja jailbreak-hyökkäyksillä, prompt-injektioilla, väärinkäyttöskenaarioilla, vinoumien hyödyntämisellä ja monivaiheisella manipuloinnilla
- Arvioi mallien tuotoksia arkaluonteisista aiheista, kuten vinoumista, väärästä tiedosta ja haitallisesta toiminnasta
- Dokumentoi virheet, luokittele haavoittuvuudet ja tunnista järjestelmätason riskit
- Hyödynnä vakiintuneita taksonomioita, vertailuarviointeja ja toimintaohjeita arviointien yhdenmukaisuuden varmistamiseksi
- Luo asiakkaille toistettavia raportteja, aineistoja ja hyökkäystapauksia
- Tutki tekoälyjärjestelmiä sellaisten heikkouksien löytämiseksi, jotka automatisoidussa testauksessa voivat jäädä huomaamatta
- Laajenna arviointien kattavuutta tuotannossa ilmenevien odottamattomien ongelmien rajoittamiseksi
- Kehitä asiakkaiden tekoälyjärjestelmiä ihmisen tekemän, dataan perustuvan red team -testauksen avulla
Vaatimukset
- Englannin ja pandžabin äidinkielinen tai sujuva taito
- Vahva harkintakyky kielen ja sisällön arvioinnissa
- Kyky määrittää, ovatko tekoälyn vastaukset täsmällisiä, kattavia ja asianmukaisia, sekä perustella arvio
- Huolellinen suhtautuminen hienovaraisiin virheisiin, ristiriitaisuuksiin ja puutteisiin
- Testausohjeiden ja laatustandardien johdonmukainen noudattaminen
- Kyky viestiä päättely selkeästi sekä tekniselle että ei-tekniselle yleisölle
- Joustavuus työskennellä eri projektien, tehtävämuotojen ja asiakkaiden parissa
- Mahdollisuus työskennellä itsenäisenä sopimuskumppanina
- H-1B- tai STEM OPT -tukea ei saa tarvita
- Eduksi katsottava osaaminen voi sisältää vihamielisen koneoppimisen, jailbreak-aineistot, prompt-injektiot, RLHF/DPO-hyökkäykset, mallien ekstraktion, penetraatiotestauksen, hyökkäysten kehittämisen, käänteisen suunnittelun, häirinnän tai disinformaation testaamisen, väärinkäytösten analyysin, keskustelevan tekoälyn testauksen, psykologian, näyttelemisen tai kirjoittamisen
Edut
- Työskentele etänä mistä tahansa roolin sallimasta paikasta
- Päätä itse työaikasi
- Saat tehdystä työstä viikoittaiset maksut Stripen tai Wisen kautta
- Projektien kestoa voidaan liiketoimintatarpeiden ja suoriutumisen perusteella pidentää, lyhentää tai päättää ennenaikaisesti
- Saat käyttöösi hyvinvointiresursseja ja selkeät ohjeet korkeamman herkkyyden projekteihin
- Kerrytä kokemusta ihmisen tuottamaan dataan perustuvasta tekoälyn red team -testauksesta
- Auta tekemään tekoälyjärjestelmistä vankempia, turvallisempia ja luotettavampia
- Kilpailukykyinen korvaus
- Tee yhteistyötä johtavien tekoälytutkijoiden kanssa