51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Специалист по red teaming за безопасност на изкуствения интелект
Mercor търси специалист по red teaming за безопасност на изкуствения интелект, който да тества усъвършенствани системи с враждебни промптове. Работата включва документиране на рискове и сътрудничество с изследователи за укрепване на безопасността и съответствието на моделите.
Описание
- Създаване на враждебни промптове за тестване на усъвършенствани модели на изкуствен интелект
- Откриване на jailbreak атаки, опасни резултати, халюцинации и пропуски в политиките
- Оценяване на устойчивостта на моделите в чувствителни области като дезинформация, киберсигурност, биосигурност, измами и политическо съдържание
- Документиране на уязвимости и съдействие при изготвянето на показатели за безопасност и доклади от red teaming
- Работа с изследователи в областта на изкуствения интелект за укрепване на съответствието, устойчивостта и безопасността на моделите
- Участие в проекти за обучение и подобряване на системи с изкуствен интелект
Изисквания
- Бакалавърска или по-висока степен по компютърни науки, киберсигурност, журналистика, комуникации, психология, биология, химия, публични политики или сродна област
- Поне пет години професионален опит в безопасността на изкуствения интелект, red teaming на изкуствен интелект, доверие и безопасност, киберсигурност, разследваща журналистика, науки за живота или сродна област
- Силни аналитични умения, умения за създаване на промптове и писане
- Опит в създаването на враждебни промптове или оценяването на усъвършенствани системи с изкуствен интелект
- Предимство: опит в red teaming на изкуствен интелект, RLHF, контролирано фино настройване, съгласуване на изкуствен интелект или доверие и безопасност
- Предимство: познания за тестване на jailbreak атаки, prompt engineering или методи за враждебна оценка
- Предимство: експертни познания в специфични области като киберсигурност, биосигурност, политическо съдържание, дезинформация или научна безопасност
- Възможност за работа като независим изпълнител
- Не се осигурява подкрепа за кандидати с визи H-1B и STEM OPT
Придобивки
- Изцяло дистанционна работа с гъвкав график
- Седмични плащания чрез Stripe или Wise за предоставените услуги
- Продължителността на проекта може да бъде удължена, съкратена или прекратена предсрочно според нуждите и резултатите
- Конкурентно възнаграждение
- Възможност за сътрудничество с водещи изследователи и екипи по безопасност
- При поискване се предоставят разумни условия за адаптация
- Бонус за препоръка до 340 щ.д. за всяка успешна препоръка, при спазване на ограничения