51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по red teaming за безопасност на изкуствения интелект
Тествайте най-модерните системи за изкуствен интелект на партньорските лаборатории на Mercor, като търсите уязвимости във високорискови области. Допринасяйте със своите констатации за тестове за безопасност и помагайте на изследователите да подобряват устойчивостта и съгласуваността на моделите.
Описание
- Създавайте адверсариални подкани за тестване на най-модерните модели за изкуствен интелект.
- Откривайте начини за заобикаляне на защитите, опасно поведение, халюцинации и нарушения на правилата.
- Оценявайте устойчивостта на моделите в чувствителни области като дезинформация, киберсигурност, биологична безопасност, измами и политическо съдържание.
- Документирайте уязвимостите и допринасяйте за тестове за безопасност и доклади от red team проверки.
- Работете с изследователи на изкуствен интелект за укрепване на съгласуваността, устойчивостта и безопасността на моделите.
- Подкрепяйте проекти за обучение и усъвършенстване на системи за изкуствен интелект.
- Сами определяте графика си; продължителността на проекта може да се промени или той да приключи по-рано според бизнес нуждите и представянето ви.
Изисквания
- Бакалавърска или по-висока степен по компютърни науки, киберсигурност, журналистика, комуникации, психология, биология, химия, публични политики или сродна област.
- Най-малко пет години професионален опит в безопасността на изкуствения интелект, red teaming на изкуствен интелект, доверие и безопасност, киберсигурност, разследваща журналистика, природни науки или сродна област.
- Силни аналитични умения, умения за създаване на подкани и писане.
- Опит в създаването на адверсариални подкани или оценяването на най-модерни системи за изкуствен интелект.
- Предимство е опитът с red teaming на изкуствен интелект, RLHF, SFT, съгласуване на изкуствен интелект или доверие и безопасност.
- Предимство е познаването на тестове за заобикаляне на защитите, prompt engineering или методи за адверсариална оценка.
- Предимство са задълбочените познания в една или повече чувствителни области, включително киберсигурност, биологична безопасност, политическо съдържание, дезинформация или безопасност в научните области.
- Ангажиментът е като независим изпълнител.
- Трябва да можете да работите без подкрепа за виза H-1B или STEM OPT.
Придобивки
- Изцяло дистанционна работа с гъвкав график.
- Седмични плащания за извършените услуги чрез Stripe или Wise.
- Работа с водещи изследователи на изкуствен интелект и екипи по безопасност.
- Помагайте за оформянето на начина, по който системите за изкуствен интелект отговарят на сложни предизвикателства за безопасността от реалния свят.
- Конкурентно заплащане.
- При поискване се предоставят разумни улеснения.
- Възнаграждения за препоръки до 340 за всяка успешна препоръка, при спазване на ограниченията.