51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на ИИ, английски и нидерландски език (дистанционен договор)
Mercor търси експерти по безопасност на ИИ, владеещи английски и нидерландски език, за тестване на разговорни модели и агенти чрез red teaming. Работата включва създаване на данни за уязвимости, сценарии за атаки и възпроизводими доклади за безопасност за разработването на авангардни системи с ИИ.
Описание
- Тестване на разговорни модели и агенти с ИИ чрез jailbreak атаки, инжектиране на подсказвания, сценарии за злоупотреба, използване на пристрастия и многоходова манипулация
- Създаване на данни, генерирани от хора, чрез анотиране на откази, класифициране на уязвимости и идентифициране на системни рискове
- Използване на таксономии, бенчмаркове и наръчници за последователно тестване на безопасността
- Разработване на възпроизводими доклади, набори от данни и случаи на атаки за клиенти
- Откриване на уязвимости, които автоматизираното тестване може да пропусне
- Разширяване на обхвата на оценяването, за да се помогне за намаляване на неочакваните рискове в продукционна среда
- Работа с водещи изследователи за обучение и подобряване на авангардни системи с ИИ
Изисквания
- Свободно владеене на английски и нидерландски език на ниво роден говорещ
- Предишен опит с red teaming на ИИ, офанзивна киберсигурност или социотехническо изследване
- Способност за противниково тестване на системи с ИИ и насочването им към условия на отказ
- Опит в прилагането на рамки или бенчмаркове за структурирано тестване
- Способност за ясно комуникиране на рискове пред техническа и нетехническа аудитория
- Способност за адаптиране към различни проекти и клиенти
- Опит с противниково машинно обучение, включително набори от данни за jailbreak атаки, инжектиране на подсказвания, RLHF/DPO атаки или извличане на модели, е предимство
- Опит в киберсигурността с проникващо тестване, разработване на експлойти или обратно инженерство е предимство
- Опит със социотехнически рискове, включващ изследване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен ИИ, е предимство
- Творчески опит в изследователска работа в областта на психологията, актьорството или писането е предимство
- Трябва да можете да работите като независим изпълнител по договор
- Кандидати с визи H-1B и STEM OPT не се поддържат
Придобивки
- Изцяло дистанционна работа
- Гъвкаво работно време с възможност сами да определяте часовете си
- Седмични плащания чрез Stripe или Wise въз основа на предоставените услуги
- Проектите могат да бъдат удължени, съкратени или прекратени предсрочно в зависимост от бизнес нуждите и представянето
- Участието в проекти с по-висока чувствителност е по избор
- Предоставят се насоки за съдържанието и ресурси за благополучие
- При поискване са налични разумни условия за адаптиране
- Конкурентно почасово заплащане
- Възможност за препоръка с награда до 250 USD за всяка успешна препоръка, съобразно ограниченията