51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Специалист по red teaming за безопасност на ИИ – дистанционен договор (Съединени щати)
Mercor търси специалист по red teaming за безопасност на ИИ, който да открива уязвимости в авангардни AI модели чрез враждебно тестване. Ролята включва проектиране на промптове и оценяване на високорисково поведение на моделите с изследователи по безопасност на ИИ.
Описание
- Създаване на враждебни промптове за предизвикване на авангардни AI модели
- Откриване на jailbreak атаки, опасно поведение, халюцинации и нарушения на политиките
- Оценяване на устойчивостта на моделите по отношение на дезинформация, киберсигурност, биосигурност, измами, политическо съдържание и други чувствителни области
- Документиране на уязвимости и подпомагане на бенчмаркове за безопасност и доклади от red teaming
- Партньорство с изследователи по ИИ за укрепване на съгласуваността, устойчивостта и безопасността на моделите
- Принос към проекти за обучение и подобряване на AI системи
Изисквания
- Бакалавърска или по-висока степен по компютърни науки, киберсигурност, журналистика, комуникации, психология, биология, химия, публични политики или сродна област
- Най-малко пет години професионален опит в безопасността на ИИ, red teaming на AI системи, доверие и безопасност, киберсигурност, разследваща журналистика, науки за живота или сродна област
- Силни аналитични умения, способности за проектиране на промптове и писмена комуникация
- Опит в създаването на враждебни промптове или оценяването на авангардни AI системи
- Предпочитан е опит в red teaming на ИИ, RLHF, SFT, съгласуване на ИИ или доверие и безопасност
- Предпочитано е познаване на тестване на jailbreak атаки, prompt engineering или методи за враждебна оценка
- Предпочитана е експертиза в една или повече сиви области, като киберсигурност, биосигурност, политическо съдържание, дезинформация или научна безопасност
- Способност за работа като независим изпълнител
- Кандидати с H-1B и STEM OPT не се поддържат
Придобивки
- Изцяло дистанционна работа
- Гъвкаво работно време
- Седмични плащания чрез Stripe или Wise
- Проектите могат да бъдат удължени, съкратени или прекратени по-рано според бизнес нуждите и представянето
- Работа по враждебно тестване с водещи изследователи по ИИ и екипи за безопасност
- Възможност да допринесете за начина, по който AI системите се справят със сложни предизвикателства пред безопасността в реалния свят
- Разумни условия за адаптиране са налични при поискване
- Плащания за препоръки до 340 USD за всяка успешна препоръка, съгласно ограниченията за препоръки