51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по red teaming на безопасността на ИИ – английски и тамилски, дистанционна работа по договор
Тествайте разговорни модели и агенти с изкуствен интелект за уязвимости чрез противниково изследване и структуриран red-team анализ. Създавайте атакуващи случаи, данни за уязвимости и възпроизводими доклади за клиентите на AI лабораторията на Mercor.
Описание
- Изследвайте разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, prompt injection, сценарии за злоупотреба, експлоатиране на пристрастия и многостъпкова манипулация
- Създавайте данни с човешки етикети чрез документиране на повреди, категоризиране на уязвимости и идентифициране на системни рискове
- Използвайте установени таксономии, бенчмаркове и наръчници за поддържане на последователни оценки
- Разработвайте възпроизводими доклади, набори от данни и атакуващи случаи за клиенти
- Оценявайте изходи на ИИ, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Идентифицирайте слабости, които автоматизираното тестване може да пропусне
- Разширявайте обхвата на оценяването и помагайте за предотвратяване на неочаквани проблеми в продукционна среда
- Подобрявайте AI системите на клиентите и допринасяйте за по-безопасни и надеждни модели
Изисквания
- Владеене на английски и тамилски език на ниво носител
- Добра преценка при оценяване на език и съдържание
- Способност да определяте дали отговорите на ИИ са точни, пълни и подходящи и да обяснявате оценката си
- Внимателно откриване на незначителни грешки, несъответствия и пропуски
- Способност за последователно прилагане на указания и стандарти за качество
- Ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и с различни клиенти
- Предимство: опит с противниково машинно обучение, включително набори от данни за jailbreak, prompt injection атаки, RLHF или DPO атаки или извличане на модели
- Предимство: опит в киберсигурността с тестове за проникване, разработване на експлойти или обратно инженерство
- Предимство: опит със социотехнически рискове, като изследване на тормоз и дезинформация, анализ на злоупотреби или тестване на разговорен ИИ
- Предимство: творчески опит в изследване чрез психология, актьорско майсторство или писане
- Необходимо е да работите като независим изпълнител
- Кандидати с визи H-1B и STEM OPT не се поддържат
Придобивки
- Изцяло дистанционна работа
- Гъвкаво работно време с възможност сами да определяте часовете си
- Седмични плащания чрез Stripe или Wise
- Конкурентно почасово възнаграждение
- Възможност за придобиване на опит в red teaming на ИИ, основан на човешки данни и фокусиран върху безопасността на най-съвременни модели
- Пряк принос към по-устойчиви, безопасни и надеждни системи с изкуствен интелект
- Възможност за доброволно участие в проекти с по-висока чувствителност
- Указания и ресурси за благополучие при проекти, включващи чувствително съдържание
- При поискване се предоставят разумни адаптации
- Програма за препоръки с до 90 USD за всяка успешна препоръка, при спазване на ограниченията на програмата