51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект (английски и гуджарати) – дистанционна работа по договор
Извършвайте red-team оценки на разговорни модели и агенти с изкуствен интелект за Mercor, партньор на AI лаборатория, насочена към обучението на водещи системи. Създавайте данни за уязвимости, сценарии за атаки и възпроизводими доклади за безопасност.
Описание
- Тествайте разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, prompt инжекции, сценарии за злоупотреба, експлоатиране на пристрастия и многостъпкова манипулация
- Създавайте данни с човешки анотации чрез отбелязване на грешки, категоризиране на уязвимости и идентифициране на системни рискове
- Използвайте утвърдени таксономии, бенчмаркове и ръководства, за да осигурите последователни оценки
- Разработвайте възпроизводими доклади, набори от данни и сценарии за атаки
- Оценявайте отговори на изкуствения интелект, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Идентифицирайте слабости, които автоматизираното тестване може да пропусне
- Разширявайте обхвата на оценките, за да помогнете за ограничаването на неочаквани проблеми в продукционна среда
- Подобрявайте AI системите на клиентите с ясни и възпроизводими резултати от оценките
Изисквания
- Носител на езика или свободно владеене на английски и гуджарати
- Добра преценка при оценяване на език и съдържание
- Способност да определяте дали отговорите на изкуствения интелект са точни, пълни и подходящи и да обяснявате оценката си
- Внимателно откриване на фини грешки, несъответствия и пропуски
- Последователно спазване на указанията и изискванията за качество
- Способност за ясно обясняване на аргументацията пред техническа и нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и за различни клиенти
- Предишен опит в сферата на враждебното машинно обучение, киберсигурността, социотехническия риск или творческото тестване е предимство
- Възможност за работа като независим изпълнител по договор
- Кандидати с визи H-1B и STEM OPT не се поддържат
Придобивки
- Работа изцяло от разстояние
- Избирайте сами работния си график
- Получавайте седмични плащания чрез Stripe или Wise
- Конкурентно почасово възнаграждение
- Възможност за участие в проекти, включващи съдържание с по-висока степен на чувствителност
- Достъп до ясни насоки и ресурси за благополучие при работа с чувствително съдържание
- При поискване са налични разумни адаптации
- Получавайте възнаграждение до 90 щатски долара за всяка успешна препоръка