51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по red teaming за безопасност на изкуствения интелект (английски и пенджабски)
Извършвайте враждебно тестване на разговорни модели и агенти с изкуствен интелект на английски и пенджабски език. Създавайте анотации на уязвимости, случаи на атаки, набори от данни и възпроизводими доклади за безопасност за проектите на Mercor за безопасност на ИИ, базирани на човешки данни.
Описание
- Тествайте разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, инжектиране на подсказки, сценарии за злоупотреба, използване на пристрастия и многоходова манипулация
- Създавайте анотации на човешки данни, като документирате повреди, категоризирате уязвимости и идентифицирате системни рискове
- Използвайте утвърдени таксономии, бенчмаркове и наръчници, за да поддържате последователни оценки
- Предоставяйте на клиентите възпроизводими доклади, набори от данни и случаи на атаки
- Оценявайте резултати от ИИ, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Разширявайте обхвата на оценяването, за да идентифицирате уязвимости, които автоматизираното тестване може да пропусне
- Помагайте за подобряване на безопасността, устойчивостта и надеждността на системите с ИИ на клиентите
Изисквания
- Носителско или свободно владеене на английски и пенджабски език
- Добра преценка при оценяване на точността, пълнотата и уместността на съдържание, генерирано от ИИ
- Способност за откриване на нюансирани грешки, несъответствия и пропуски
- Последователно спазване на насоки, таксономии, бенчмаркове, наръчници и стандарти за качество
- Ясно обясняване на разсъжденията както на техническа, така и на нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и изисквания на клиентите
- Способност за работа като независим изпълнител
- Кандидати с H1-B и STEM OPT не се поддържат
- Полезен опит във враждебно машинно обучение, набори от данни за jailbreak атаки, атаки чрез инжектиране на подсказки или RLHF/DPO, извличане на модели, тестове за проникване, разработване на експлойти, обратно инженерство, тестване за тормоз или дезинформация, анализ на злоупотреби, тестване на разговорен ИИ, психология, актьорско майсторство или неконвенционално враждебно писане
Придобивки
- Изцяло дистанционна работа с гъвкав график, който управлявате самостоятелно
- Седмични плащания чрез Stripe или Wise
- Конкурентно възнаграждение
- Ресурси за благополучие и ясни насоки за проекти с по-висока чувствителност
- При поискване са достъпни разумни улеснения
- Възнаграждения за препоръки до 90 USD за всяка успешна препоръка
- Възможности за сътрудничество с водещи изследователи
- Практически опит с red teaming на ИИ, базиран на човешки данни, в авангарда на безопасността на ИИ