51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект с английски и фински език
Тествайте усъвършенствани системи с изкуствен интелект за уязвимости чрез jailbreak атаки, prompt injection и сценарии за злоупотреба. Изготвяйте структурирани констатации и възпроизводими примери за атаки в подкрепа на оценяването на безопасността на ИИ.
Описание
- Тествайте разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, prompt injection, сценарии за злоупотреба, експлоатиране на пристрастия и манипулация в няколко хода.
- Създавайте данни с човешки етикети, като документирате откази, класифицирате уязвимости и идентифицирате системни рискове.
- Използвайте таксономии, бенчмаркове и тестови ръководства за последователност при тестването.
- Предоставяйте на клиентите възпроизводими доклади, набори от данни и случаи на атаки.
- Оценявайте резултатите от ИИ по чувствителни теми, включително пристрастия, дезинформация и вредно поведение.
- Откривайте уязвимости, които автоматизираното тестване може да пропусне.
- Разширявайте обхвата на оценяването, за да помогнете за предотвратяване на неочаквани проблеми в продукционна среда.
- Допринасяйте за проекти за обучение и усъвършенстване на най-съвременни системи с изкуствен интелект.
Изисквания
- Свободно владеене на английски и фински език или владеене на ниво носител на езика.
- Предишен опит с red teaming при адверсариално тестване на ИИ, киберсигурност или социотехническо проучване.
- Умение за адверсариално тестване на системи с ИИ и проверка на крайните им възможности.
- Опит с рамки или бенчмаркове за структурирано тестване.
- Умение за ясно обясняване на рискове пред техническа и нетехническа аудитория.
- Умение за адаптиране към различни проекти и клиенти.
- Предимство са специализации в адверсариално машинно обучение, киберсигурност, социотехнически риск или творчески подходи към проучването.
- Ангажиране като независим изпълнител.
- Не трябва да се изисква спонсорство за виза H-1B или STEM OPT.
Придобивки
- Изцяло дистанционна работа.
- Гъвкав график с възможност сами да определяте работното си време.
- Седмични плащания чрез Stripe или Wise.
- Проектите може да бъдат удължени, съкратени или прекратени по-рано според нуждите и представянето.
- Ресурси за благополучие и ясни насоки за проекти, свързани с по-чувствителни теми.
- При поискване се предоставят разумни приспособявания.
- Възможност за придобиване на опит в red teaming на ИИ, базиран на данни с човешко участие.
- Работа с водещи изследователи.
- Възнаграждения за препоръка до 250 щатски долара за всяка успешна препоръка; прилагат се ограничения.