51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Etänä työskentelevä tekoälyn turvallisuuden asiantuntija (englanti ja marathi) Mercorilla
Testaa keskustelevien tekoälymallien haavoittuvuuksia red team -menetelmillä englanniksi ja marathiksi. Luo toistettavia aineistoja, hyökkäystapauksia ja raportteja ihmisen tuottamaan dataan perustuvia tekoälyn turvallisuushankkeita varten.
Kuvaus
- Suorita keskusteleville tekoälymalleille ja agenteille red team -testausta jailbreak-menetelmillä, prompt-injektioilla, väärinkäyttöskenaarioilla, vinoumien hyödyntämisellä ja monivaiheisella manipuloinnilla
- Luo ihmisen tuottamaa dataa merkitsemällä virheitä, luokittelemalla haavoittuvuuksia ja tunnistamalla järjestelmätason riskejä
- Hyödynnä taksonomioita, vertailuarviointeja ja toimintaohjeita arviointien yhdenmukaisuuden varmistamiseksi
- Laadi asiakkaille toistettavia raportteja, aineistoja ja hyökkäystapauksia
- Arvioi tekoälyn tuottamaa sisältöä arkaluonteisista aiheista, kuten vinoumista, väärästä tiedosta ja haitallisesta toiminnasta
- Tunnista heikkouksia, joita automaattinen testaus saattaa jättää huomaamatta
- Laajenna arviointien kattavuutta odottamattomien tuotanto-ongelmien ehkäisemiseksi
- Tue asiakkaita heidän tekoälyjärjestelmiensä turvallisuuden, vankkuuden ja luotettavuuden parantamisessa
Vaatimukset
- Edellytyksenä on sujuva tai äidinkielinen englannin ja marathin taito
- Hyvä kieli- ja sisältöharkinta, mukaan lukien kyky arvioida, ovatko tekoälyn vastaukset täsmällisiä, kattavia ja asianmukaisia, sekä perustella arvio
- Poikkeuksellisen tarkka huomio hienovaraisiin virheisiin, ristiriitaisuuksiin ja puutteisiin
- Vakiintuneiden ohjeiden ja laatustandardien johdonmukainen noudattaminen
- Perustelujen selkeä viestintä teknisille ja ei-teknisille yleisöille
- Kyky mukautua eri hankkeisiin, tehtävämuotoihin ja asiakkaisiin
- Työ on tehtävä itsenäisenä toimeksisaajana
- H1-B- ja STEM OPT -ehdokkaita ei tueta
- Eduksi katsotaan kokemus vastakkainasettelevasta koneoppimisesta, kuten jailbreak-aineistoista, prompt-injektioista, RLHF- tai DPO-hyökkäyksistä tai mallien ekstraktiosta
- Eduksi katsotaan kyberturvallisuuskokemus penetraatiotestauksesta, hyväksikäyttöjen kehittämisestä tai käänteistekniikasta
- Eduksi katsotaan sosioteknisen riskin kokemus, joka liittyy häirinnän tai disinformaation testaamiseen, väärinkäytösten analysointiin tai keskustelevan tekoälyn testaamiseen
- Eduksi katsotaan psykologian, näyttelemisen tai kirjoittamisen kokemus, joka tukee tavanomaisesta poikkeavaa vastakkainasettelevaa ajattelua
Edut
- Täysin etätyö
- Joustava työaika, ja voit valita työskentelyaikasi
- Viikoittaiset maksut Stripen tai Wisen kautta toimitettujen palvelujen perusteella
- Projektin kestoa voidaan liiketoimintatarpeiden ja suoriutumisen mukaan pidentää, lyhentää tai päättää ennenaikaisesti
- Hyvinvointiresursseja ja selkeää ohjeistusta hankkeisiin, joissa käsitellään arkaluonteisempaa sisältöä
- Kohtuullisia mukautuksia on saatavilla pyynnöstä
- Suositteluohjelma, jossa jokaisesta onnistuneesta suosittelusta voi saada enintään 90 dollaria ilman suosittelujen enimmäismäärää
- Mahdollisuus tehdä yhteistyötä johtavien tutkijoiden kanssa
- Kokemus ihmisen tuottamaan dataan perustuvasta tekoälyn red team -testauksesta tekoälyn turvallisuuden eturintamassa