51 – 200 Työntekijät
Mercorin saatavilla olevassa profiilissa ei ole riittävästi varmennettua tietoa sen tuotteista, palveluista, asiakkaista, toimialasta tai rekrytointipainotuksesta tarkan yritysesittelyn laatimiseksi. Yrityksen tai sen tarjoamien mahdollisuuksien kuvaamiseen tarvitaan lisää lähdemateriaalia.
Tekoälyn turvallisuusasiantuntija – englanti ja assami | Mercorin etäsopimus
Testaa edistyksellisiä tekoälymalleja vastakkainasettelutesteillä jailbreak-yritysten, vinoumien, väärinkäytön ja muiden turvallisuusriskien varalta. Laadi ihmisdatan annotaatioita, haavoittuvuusluokituksia ja toistettavia hyökkäystodisteita Mercorin asiakkaille.
Kuvaus
- Testaa keskustelevaa tekoälyä ja tekoälyagentteja vastakkainasettelutesteillä jailbreak-yritysten, prompt-injektioiden, väärinkäytön, vinoumien hyödyntämisen ja monivaiheisen manipuloinnin varalta
- Laadi ihmisdatan annotaatioita, luokittele virheitä ja tunnista järjestelmätason riskejä
- Hyödynnä vakiintuneita taksonomioita, vertailuarviointeja ja toimintamalleja arviointien standardoimiseksi
- Toimita asiakkaille toistettavia raportteja, aineistoja ja hyökkäystapauksia
- Arvioi tekoälyn vastauksia, jotka liittyvät vinoumiin, väärään tietoon, haitalliseen toimintaan ja muihin arkaluonteisiin aiheisiin
- Etsi heikkouksia, joita automaattinen testaus ei havaitse
- Laajenna arviointien kattavuutta odottamattomien tuotanto-ongelmien ehkäisemiseksi
- Paranna asiakkaiden tekoälyjärjestelmiä jäsennellyn vastakkainasettelutestauksen avulla
Vaatimukset
- Englannin ja assamin kielen äidinkielinen taito
- Hyvä harkintakyky arvioitaessa kielen ja sisällön oikeellisuutta, kattavuutta ja asianmukaisuutta
- Kyky havaita hienovaraisia virheitä, ristiriitoja ja puutteita
- Ohjeiden ja laatustandardien johdonmukainen noudattaminen
- Perustelujen selkeä viestiminen sekä tekniselle että ei-tekniselle yleisölle
- Joustavuus eri projektien, tehtävämuotojen ja asiakkaiden tarpeiden mukaan
- Eduksi: kokemusta vastakkainasetteluun perustuvasta koneoppimisesta, kuten jailbreak-aineistoista, prompt-injektioista, RLHF- tai DPO-hyökkäyksistä tai mallien eristämisestä
- Eduksi: kyberturvallisuuskokemusta penetraatiotestauksesta, hyväksikäyttöjen kehittämisestä tai käänteistekniikasta
- Eduksi: sosioteknisten riskien kokemusta häirinnän tai disinformaation selvittämisestä, väärinkäytön analysoinnista tai keskustelevan tekoälyn testauksesta
- Eduksi: psykologian, näyttelemisen tai kirjoittamisen kokemusta, joka tukee tavanomaisesta poikkeavaa vastakkainasettelua
- Työ on tehtävä itsenäisenä toimeksisaajana
- H-1B- ja STEM OPT -ehdokkaita ei tueta
Edut
- Työskentele täysin etänä
- Valitse itse työaikasi
- Saat viikoittaiset maksut Stripen tai Wisen kautta
- Kerrytä käytännön kokemusta ihmisdataan perustuvasta tekoälyn red teaming -testauksesta
- Auta tekemään tekoälyjärjestelmistä kestävämpiä, turvallisempia ja luotettavampia
- Työskentele johtavien tutkijoiden kanssa
- Kohtuullisia mukautuksia on saatavilla pyynnöstä
- Ansaitse onnistuneista suositteluista enintään 90 dollarin palkkioita