51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и фински (дистанционно)
Mercor търси експерти по безопасност на изкуствения интелект, говорещи английски и фински, за red team тестване на разговорни модели и агенти с изкуствен интелект. Работата включва създаване на възпроизводими данни за уязвимости и случаи на атаки за проекти за обучение на авангардни системи с изкуствен интелект.
Описание
- Провеждане на противниково тестване на разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, инжектиране на подсказки, сценарии за злоупотреба, експлоатиране на пристрастия и многоходова манипулация
- Документиране на повреди, категоризиране на уязвимости и идентифициране на системни рискове
- Прилагане на утвърдени таксономии, бенчмаркове и ръководства за поддържане на последователни оценки
- Създаване на възпроизводими доклади, набори от данни и случаи на атаки
- Проучване на изходи на модели, свързани с пристрастия, дезинформация и вредно поведение
- Разширяване на обхвата на оценяването за идентифициране на уязвимости, които автоматизираното тестване може да пропусне
- Работа с проектни екипи, подкрепящи обучението и усъвършенстването на авангардни системи с изкуствен интелект
Изисквания
- Свободно или родно владеене на английски и фински език
- Предишен опит в red team тестване при противниково тестване на изкуствен интелект, киберсигурност или социотехническо проучване
- Доказана способност за противниково тестване на системи с изкуствен интелект
- Способност за работа с рамки, таксономии, бенчмаркове и ръководства
- Способност за ясно комуникиране на рискове пред техническа и нетехническа аудитория
- Адаптивност към различни проекти и клиенти
- Задължително е да работите като независим изпълнител
- Трябва да можете да работите без поверителна или собствена информация, принадлежаща на друг работодател, клиент или институция
- Кандидати с визи H-1B и STEM OPT не се поддържат
Придобивки
- Изцяло дистанционна договорна позиция
- Гъвкав график с контрол върху работното време
- Възможност за участие в проекти с по-висока чувствителност
- Ясни насоки и ресурси за благополучие
- Седмични плащания чрез Stripe или Wise
- Конкурентно заплащане
- Възможност за препоръка с възнаграждение до 250 USD за всяка успешна препоръка
- При поискване се предоставят разумни улеснения