51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по red teaming за безопасност на ИИ – дистанционна работа по договор в Съединените щати
Mercor търси договорен експерт по red teaming за безопасност на ИИ, който да подлага най-съвременните модели на ИИ на изпитания и да открива уязвимости. Ролята е насочена към високорискови области и подпомага разработването на по-безопасни и надеждни системи за ИИ.
Описание
- Създаване на адверсариални промптове, които строго изпитват най-съвременните модели на ИИ
- Откриване на jailbreak атаки, небезопасно поведение, халюцинации и неспазване на политиките за безопасност
- Оценяване на устойчивостта на моделите спрямо дезинформация, киберсигурност, биосигурност, измами, политическо съдържание и други чувствителни области
- Документиране на откритите слабости и подпомагане на бенчмаркове за безопасност и доклади от red teaming
- Работа с изследователи на ИИ за подобряване на подравняването, устойчивостта и безопасността на моделите
- Помощ за защита и подобряване на нововъзникващи най-съвременни системи за ИИ
- Формиране на начина, по който моделите на ИИ се справят с трудни сценарии за безопасност в реални условия
Изисквания
- Бакалавърска степен или по-висока в областта на компютърните науки, киберсигурността, журналистиката, комуникациите, психологията, биологията, химията, публичните политики или сходна област
- Поне пет години професионален опит в безопасността на ИИ, red teaming на ИИ, доверието и безопасността, киберсигурността, разследващата журналистика, науките за живота или сходна област
- Силна аналитична преценка, умения за разработване на промптове и писмена комуникация
- Практически опит със създаване на адверсариални промптове или оценяване на най-съвременни системи за ИИ
- Предимство: опит в red teaming на ИИ, RLHF, SFT, подравняване на ИИ или доверие и безопасност
- Предимство: познания за оценки на jailbreak атаки, prompt engineering или методи за адверсариална оценка
- Предимство: експертни познания в области с нюанси като киберсигурност, биосигурност, политическо съдържание, дезинформация или научна безопасност
- Възможност за работа като независим договорен изпълнител
- Кандидати с визи H-1B и STEM OPT не се поддържат
Придобивки
- Изцяло дистанционна работа
- Самостоятелно определяне на работното време и изпълнение на задачите по гъвкав график
- Седмични плащания чрез Stripe или Wise
- Продължителността на проекта може да се промени или проектът да приключи по-рано в зависимост от бизнес нуждите и представянето
- Конкурентно възнаграждение
- Работа с водещи изследователи на ИИ и екипи по безопасност
- При поискване се предоставят разумни адаптации
- Програма за препоръки, предлагаща до 340 USD за всяка успешна препоръка, съгласно ограниченията за препоръки