51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и маратхи (дистанционна работа)
Mercor търси експерти по безопасност на изкуствения интелект, владеещи английски и маратхи, за red-team тестване на разговорни модели и агенти. Работата включва откриване на уязвимости, оценяване на чувствителни изходи и създаване на възпроизводими данни за безопасност за AI лаборатории и клиенти.
Описание
- Провеждане на red-team тестове на разговорни AI модели и агенти чрез jailbreak атаки, prompt injection, сценарии за злоупотреба, използване на пристрастия и многостъпкова манипулация
- Създаване на данни от човешка оценка чрез анотиране на неуспехи, категоризиране на уязвимости и идентифициране на системни рискове
- Използване на утвърдени таксономии, бенчмаркове и ръководства за последователни оценки
- Разработване на възпроизводими отчети, набори от данни и случаи на атаки за клиенти
- Оценяване на AI изходи, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Идентифициране на уязвимости, които автоматизираното тестване може да пропусне
- Разширяване на обхвата на оценяването с цел ограничаване на неочаквани проблеми в продукция
- Подпомагане на клиентите при подобряването на безопасността, устойчивостта и надеждността на техните AI системи
Изисквания
- Владеене на английски и маратхи на ниво роден език
- Силна преценка при оценяване на език и съдържание, включително дали отговорите на AI са точни, пълни и подходящи
- Способност за откриване на фини грешки, несъответствия и пропуски
- Способност за последователно следване на указания и стандарти за качество
- Способност за ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Адаптивност към различни проекти, видове задачи и клиенти
- Способност за работа като независим изпълнител
- Не трябва да се изисква подкрепа за виза H-1B или STEM OPT
- Предимство е опитът в адверсарно машинно обучение с набори от данни за jailbreak атаки, prompt injection атаки, RLHF или DPO атаки или извличане на модели
- Предимство е опитът в киберсигурността, включително тестове за проникване, разработване на експлойти или обратно инженерство
- Предимство е опитът със социотехнически рискове, включително проучване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен AI
- Предимство е опитът в психологията, актьорското майсторство или писането, който подпомага нестандартното адверсарно мислене
Придобивки
- Изцяло дистанционна работа, която може да се извършва по собствен график
- Седмични плащания чрез Stripe или Wise
- Възможност за доброволно участие в проекти с по-висока чувствителност
- Ясни указания и ресурси за благополучие при работа с чувствително съдържание
- Конкурентно възнаграждение
- Възможност за сътрудничество с водещи изследователи
- Плащания за препоръки до 90 USD за всяка успешна препоръка, при определени ограничения