51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и асамски | Дистанционен договор с Mercor
Провеждайте адверсариално тестване на водещи модели на изкуствения интелект за jailbreak атаки, пристрастност, злоупотреба и други рискове за безопасността. Създавайте анотации на човешки данни, класификации на уязвимости и възпроизводими доказателства за атаки за клиентите на Mercor.
Описание
- Адверсариално тестване на разговорни модели и агенти с изкуствен интелект за jailbreak атаки, инжектиране на подсказвания, злоупотреба, използване на пристрастия и многоходова манипулация
- Създаване на анотации на човешки данни, класифициране на откази и идентифициране на системни рискове
- Използване на утвърдени таксономии, бенчмаркове и ръководства за стандартизиране на оценяването
- Предоставяне на възпроизводими доклади, набори от данни и случаи на атаки за клиентите
- Оценяване на отговори на изкуствения интелект, свързани с пристрастност, дезинформация, вредно поведение и други чувствителни теми
- Откриване на слабости, които автоматизираното тестване не засича
- Разширяване на обхвата на оценяването, за да се помогне за предотвратяване на неочаквани проблеми в продукционна среда
- Подобряване на системите за изкуствен интелект на клиентите чрез структурирано адверсариално тестване
Изисквания
- Свободно владеене на английски и асамски език на ниво носител
- Добра преценка при оценяване на език и съдържание по отношение на точност, пълнота и уместност
- Способност за откриване на фини грешки, несъответствия и пропуски
- Последователно спазване на указанията и стандартите за качество
- Ясно обясняване на аргументацията както на техническа, така и на нетехническа аудитория
- Гъвкавост при работа по различни проекти, формати на задачи и нужди на клиентите
- Предимство е опитът в адверсариално машинно обучение, включително набори от данни за jailbreak атаки, инжектиране на подсказвания, RLHF или DPO атаки и извличане на модели
- Предимство е опитът в киберсигурността, включително тестване за проникване, разработване на експлойти или обратно инженерство
- Предимство е опитът със социотехнически рискове, включително проучване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен изкуствен интелект
- Предимство е опитът в психологията, актьорството или писането, който подпомага нестандартното адверсариално мислене
- Трябва да работите като независим изпълнител
- Кандидатите с визи H-1B и STEM OPT не се поддържат
Придобивки
- Работа изцяло от разстояние
- Изберете сами работния си график
- Получавайте седмични плащания чрез Stripe или Wise
- Натрупайте практически опит в red teaming на изкуствен интелект, основан на човешки данни
- Помагайте за създаването на по-устойчиви, безопасни и надеждни системи за изкуствен интелект
- Работете с водещи изследователи
- При поискване са налични разумни улеснения
- Получавайте възнаграждения за препоръки до 90 USD при успешни препоръки