51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и пенджабски
Дистанционна договорна позиция за експерти по безопасност на изкуствения интелект, владеещи английски и пенджабски език, които подпомагат проектите на Mercor за red teaming на разговорен изкуствен интелект. Тествайте jailbreak атаки, инжектиране на подсказки, рискове от вредно съдържание и уязвимости на модели и документирайте възпроизводими констатации.
Описание
- Провеждане на противниково тестване на разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, инжектиране на подсказки, сценарии за злоупотреба, експлоатиране на пристрастия и многоходова манипулация
- Създаване на данни, генерирани от хора, чрез анотиране на откази, категоризиране на уязвимости и идентифициране на системни рискове
- Прилагане на установени таксономии, бенчмаркове и ръководства за поддържане на последователни оценки
- Подготовка на възпроизводими отчети, набори от данни и случаи на атаки за клиенти
- Оценяване на изходите на изкуствения интелект за пристрастия, дезинформация, вредно поведение и други рискове, свързани с чувствително съдържание
- Идентифициране на слабости, които автоматизираните оценки могат да пропуснат
- Разширяване на обхвата на оценяването, за да се помогне за ограничаване на неочаквани проблеми в продукция
- Подобряване на системите за изкуствен интелект на клиентите чрез структурирано противниково тестване
Изисквания
- Свободно владеене на английски и пенджабски език като роден говорещ
- Добра преценка при оценяване на език и съдържание
- Способност да определяте дали отговорите на изкуствения интелект са точни, пълни и подходящи и да обяснявате оценката
- Силно внимание към фини грешки, несъответствия и пропуски
- Последователно спазване на указанията и стандартите за качество
- Ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Способност за адаптиране към различни проекти, формати на задачи и клиенти
- Статут на независим изпълнител
- Не трябва да сте кандидат за H-1B или STEM OPT
- Предимство: опит с противниково машинно обучение, включително набори от данни за jailbreak атаки, инжектиране на подсказки, RLHF/DPO атаки или извличане на модели
- Предимство: опит в киберсигурността с тестове за проникване, разработване на експлойти или обратно инженерство
- Предимство: опит със социотехнически риск, включително изследване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен изкуствен интелект
- Предимство: опит в психологията, актьорството или писането, който подпомага нестандартното противниково мислене
Придобивки
- Изцяло дистанционна работа
- Гъвкаво работно време с възможност да работите по собствен график
- Седмични плащания чрез Stripe или Wise
- Проектите могат да бъдат удължени, съкратени или прекратени по-рано в зависимост от бизнес нуждите и представянето
- Незадължително участие в проекти с по-висока чувствителност
- Предоставят се насоки за съдържанието и ресурси за благосъстояние
- Конкурентно заплащане
- При поискване са налични разумни адаптации
- Плащания за препоръки до 90 USD за всяка успешна препоръка, съгласно ограниченията за препоръки