51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по red teaming за безопасност на изкуствения интелект – английски и фински език, дистанционна работа от Съединените щати
Провеждане на адверсариално тестване на разговорни модели и агенти с изкуствен интелект за проектите на Mercor за ИИ, използващи човешки данни. Създаване на възпроизводими данни за уязвимости, които помагат за укрепването на модерните системи с изкуствен интелект.
Описание
- Тестване на разговорни модели и агенти с изкуствен интелект чрез jailbreak атаки, инжектиране на подсказки, сценарии за злоупотреба, експлоатиране на пристрастия и многоходова манипулация
- Анотиране на откази, категоризиране на уязвимости и идентифициране на системни рискове
- Прилагане на утвърдени таксономии, бенчмаркове и ръководства за последователни оценки
- Създаване на възпроизводими доклади, набори от данни и атакуващи случаи за клиенти
- Идентифициране на уязвимости, които автоматизираното тестване може да пропусне
- Разширяване на обхвата на оценките и съдействие за намаляване на неочакваните проблеми в продукционна среда
- Работа с водещи изследователи по проекти за обучение и подобряване на системи с изкуствен интелект
Изисквания
- Свободно или майчинско владеене на английски и фински език
- Предишен опит в red teaming в областта на адверсариалната работа с ИИ, киберсигурността или социотехническото изследване
- Способност за адверсариално тестване на системи с изкуствен интелект и довеждането им до точки на отказ
- Опит в прилагането на рамки или бенчмаркове за структурирано тестване
- Способност за ясно представяне на рискове пред техническа и нетехническа аудитория
- Адаптивност към различни проекти и изисквания на клиенти
- Възможност за ангажиране като независим изпълнител
- Не трябва да сте кандидат за H-1B или STEM OPT
- Предимство е опитът в адверсариално машинно обучение, включително набори от данни за jailbreak атаки, инжектиране на подсказки, RLHF/DPO атаки или извличане на модели
- Предимство е опитът в киберсигурността, включително тестване за проникване, разработване на експлойти или обратно инженерство
- Предимство е опитът със социотехнически рискове при изследване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен ИИ
- Предимство е опитът в психологията, актьорското майсторство или писането, който подпомага нестандартното адверсариално мислене
Придобивки
- Изцяло дистанционна работа
- Гъвкаво работно време
- Седмични плащания чрез Stripe или Wise
- Ресурси за благосъстояние и ясни насоки за проекти с по-висока чувствителност
- Възможност за придобиване на опит в red teaming на ИИ с човешки данни
- Пряка възможност да помогнете за по-голямата устойчивост, безопасност и надеждност на системите с изкуствен интелект
- Конкурентно заплащане
- Бонус за препоръка до 250 щатски долара за всяка успешна препоръка