51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на ИИ от разстояние (английски и маратхи) в Mercor
Изследвайте уязвимостите на разговорните модели на ИИ чрез red-team тестване на английски и маратхи. Създавайте възпроизводими набори от данни, атакуващи сценарии и доклади за проекти за безопасност на ИИ, основани на човешки данни.
Описание
- Провеждайте red-team тестване на разговорни модели и агенти на ИИ чрез jailbreak атаки, prompt injection, сценарии за злоупотреба, експлоатиране на предубеждения и многостъпкова манипулация
- Създавайте човешки данни чрез анотиране на грешки, категоризиране на уязвимости и идентифициране на системни рискове
- Използвайте таксономии, бенчмаркове и наръчници за поддържане на последователни оценки
- Разработвайте възпроизводими доклади, набори от данни и атакуващи сценарии за клиенти
- Оценявайте резултатите на ИИ по чувствителни теми, включително предубеждения, дезинформация и вредно поведение
- Идентифицирайте слабости, които автоматизираното тестване може да пропусне
- Разширявайте обхвата на оценяването, за да помогнете за предотвратяване на неочаквани проблеми в продукционна среда
- Подпомагайте клиентите при подобряването на безопасността, устойчивостта и надеждността на техните системи с ИИ
Изисквания
- Изисква се свободно или родно владеене на английски и маратхи
- Добра преценка относно езика и съдържанието, включително способност да оценявате дали отговорите на ИИ са точни, пълни и подходящи и да обяснявате мотивите си
- Изключително внимание към незабележими грешки, несъответствия и пропуски
- Последователно спазване на установените насоки и стандарти за качество
- Ясно комуникиране на мотивите както пред техническа, така и пред нетехническа аудитория
- Способност за адаптиране към различни проекти, формати на задачи и клиенти
- Работата трябва да бъде като независим изпълнител
- Кандидати с визи H1-B и STEM OPT не се поддържат
- Предимство е опитът в противниково машинно обучение с набори от данни за jailbreak атаки, prompt injection, RLHF или DPO атаки или извличане на модели
- Предимство е опитът в киберсигурността, включително тестване за проникване, разработване на експлойти или обратно инженерство
- Предимство е опитът със социотехнически рискове, свързани с проучване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен ИИ
- Предимство е опитът в психологията, актьорството или писането, който подпомага нестандартното противниково мислене
Придобивки
- Изцяло дистанционна работа
- Гъвкаво работно време с възможност да избирате часовете си
- Седмични плащания чрез Stripe или Wise въз основа на предоставените услуги
- Продължителността на проекта може да бъде удължена, съкратена или прекратена по-рано според бизнес нуждите и представянето
- Ресурси за благосъстояние и ясни насоки за проекти, включващи по-чувствително съдържание
- При поискване са налични разумни адаптации
- Програмата за препоръки предлага до 90 USD за всяка успешна препоръка без ограничение на броя препоръки
- Възможност за сътрудничество с водещи изследователи
- Възможност за придобиване на опит в red-team тестване на ИИ, основано на човешки данни, в авангарда на безопасността на ИИ