51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Специалист по red teaming на сигурността на AI – дистанционна работа от САЩ
Mercor търси специалист по red teaming на сигурността на AI за дистанционна работа, който да подлага водещи AI модели на изпитания и да открива уязвимости във високорискови области. Договорната позиция подпомага AI лаборатории, които разработват и усъвършенстват модерни системи.
Описание
- Създаване на адверсариални промптове за тестване на водещи AI модели
- Откриване на jailbreak атаки, небезопасно поведение, халюцинации и нарушения на политики
- Оценяване на устойчивостта на моделите към дезинформация, киберзаплахи, рискове за биосигурността, измами, политическо съдържание и други чувствителни теми
- Документиране на откритите уязвимости и съдействие при изготвянето на бенчмаркове за сигурност и red-team доклади
- Партньорство с AI изследователи за укрепване на съгласуваността, устойчивостта и сигурността на моделите
- Принос към проекти за обучение и усъвършенстване на AI системи
Изисквания
- Бакалавърска или по-висока степен по компютърни науки, киберсигурност, журналистика, комуникации, психология, биология, химия, публични политики или сродна област
- Най-малко пет години професионален опит в сигурността на AI, red teaming на AI, доверие и сигурност, киберсигурност, разследваща журналистика, науки за живота или сродна област
- Силна аналитична преценка, умения за проектиране на промптове и писмена комуникация
- Опит в създаването на адверсариални промптове или оценяването на водещи AI системи
- Опит в red teaming на AI, RLHF, SFT, съгласуване на AI или доверие и сигурност е предимство
- Познаването на тестване за jailbreak атаки, prompt engineering или методи за адверсариална оценка е предимство
- Експертни познания в поне една сива област, като киберсигурност, биосигурност, политическо съдържание, дезинформация или научна сигурност, са предимство
- Способност за работа като независим изпълнител
- Кандидатите с визи H-1B и STEM OPT не се поддържат
Придобивки
- Изцяло дистанционна работа
- Гъвкав график, организиран самостоятелно
- Седмични плащания чрез Stripe или Wise
- Проектите могат да бъдат удължени, съкратени или прекратени по-рано според бизнес нуждите и представянето
- Конкурентно възнаграждение
- Сътрудничество с водещи AI изследователи и екипи по сигурността
- При поискване са достъпни разумни адаптации
- Плащания за препоръки до 340 USD за всяка успешна препоръка, при спазване на приложимите ограничения