51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и гуджарати, дистанционен договор в САЩ
Извършвайте човешки red-team оценки на разговорни модели и агенти с изкуствен интелект за Mercor. Създавайте данни за уязвимости, сценарии за атаки и възпроизводими оценки на безопасността на английски и гуджарати.
Описание
- Тествайте разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, prompt инжекции, сценарии за злоупотреба, експлоатиране на пристрастия и многостъпкова манипулация
- Анотирайте сривове, категоризирайте уязвимости и ескалирайте системни рискове
- Използвайте утвърдени таксономии, бенчмаркове и ръководства за последователни оценки
- Създавайте възпроизводими отчети, набори от данни и сценарии за атаки
- Оценявайте изходите на изкуствения интелект, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Откривайте слабости, които автоматизираното тестване може да пропусне
- Разширявайте обхвата на оценките и помагайте за ограничаване на неочаквани проблеми в продукционна среда
- Подобрявайте AI системите на клиентите чрез red-teaming, основан на данни, създадени от хора
Изисквания
- Владеене на английски и гуджарати на ниво носител на езика
- Добра преценка при оценяване на език и съдържание
- Способност да определяте дали отговорите на AI са точни, пълни и подходящи и да обяснявате оценката си
- Силно внимание към фини грешки, несъответствия и пропуски
- Последователно спазване на указанията и стандартите за качество
- Ясно обясняване на аргументацията пред техническа и нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и с различни клиенти
- Готовност за работа като независим изпълнител по договор
- Не трябва да сте кандидат за H-1B или STEM OPT
- Предпочитат се познания в областта на състезателното машинно обучение, киберсигурността, социотехническия риск или креативното тестване
Придобивки
- Изцяло дистанционна договорна работа
- Гъвкаво работно време
- Седмични плащания чрез Stripe или Wise
- Възможност за участие в проекти с по-висока чувствителност
- Насоки и ресурси за благополучие при работа с чувствително съдържание
- Конкурентно възнаграждение
- Възможност за сътрудничество с водещи изследователи
- При поискване са достъпни разумни улеснения
- Програма за препоръки с до 90 USD за всяка успешна препоръка