51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по тестване на сигурността на изкуствения интелект чрез red teaming (английски и телугу) – дистанционна работа по договор
Тествайте разговорни модели на изкуствения интелект за заобикаляне на защитите, инжектиране на подсказвания, злоупотреба, пристрастия и други пропуски в сигурността. Документирайте възпроизводими уязвимости и данни от оценки за клиенти, занимаващи се с изследвания на изкуствения интелект.
Описание
- Противниково тестване на разговорни модели и агенти на изкуствения интелект за заобикаляне на защитите, инжектиране на подсказвания, злоупотреба, използване на пристрастия и многоходова манипулация
- Анотиране на неуспешни тестове, категоризиране на уязвимости и установяване на системни рискове
- Прилагане на утвърдени таксономии, бенчмаркове и ръководства за поддържане на последователни оценки
- Създаване на възпроизводими доклади, набори от данни и сценарии за атаки за клиенти
- Оценяване на отговорите на изкуствения интелект по чувствителни теми, включително пристрастия, дезинформация и вредно поведение
- Откриване на слабости, които автоматизираните методи за оценка не успяват да открият
- Разширяване на обхвата на оценките, за да се предотвратят неочаквани проблеми в продукционна среда
- Подобряване на системите на клиентите чрез повтаряемо противниково тестване
Изисквания
- Носител на английски и телугу език
- Добра преценка при оценяване на езика и съдържанието по отношение на точност, пълнота и уместност
- Способност за ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Внимателно откриване на фини грешки, несъответствия и пропуски
- Способност за последователно спазване на насоки и стандарти за качество
- Гъвкавост при работа по различни проекти, формати на задачи и с различни клиенти
- Ангажираност като независим изпълнител
- Способност за работа без използване на поверителна или собствена информация от който и да е работодател, клиент или институция
- Кандидати с визи H-1B и STEM OPT не се поддържат
Придобивки
- Напълно дистанционна работа, която може да се извършва по самостоятелно изготвен график
- Седмични плащания чрез Stripe или Wise за предоставените услуги
- Възможност за участие в проекти, включващи по-чувствителни теми
- Насоки и ресурси за благополучие при работа с чувствително съдържание
- Опит в изграждането на експертиза за red teaming на изкуствения интелект, основано на човешки данни
- Възможност да помогнете за създаването на по-безопасни, по-устойчиви и по-надеждни системи на изкуствения интелект
- Възможности за сътрудничество с водещи изследователи
- Плащания за препоръки до 90 щатски долара за всяка успешна препоръка, при спазване на приложимите ограничения