51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Специалист по тестване на безопасността на изкуствения интелект
Mercor търси специалист по тестване на безопасността на изкуствения интелект, който да проверява най-съвременни модели за заобикаляне на защитите, халюцинации и нарушения на правилата. Компанията си партнира с AI лаборатории за обучение и подобряване на AI системи.
Описание
- Създаване на адверсариални подкани за тестване на най-съвременни AI модели.
- Откриване на заобикаляне на защитите, опасно поведение, халюцинации и нарушения на правилата.
- Оценяване на устойчивостта на моделите в областта на дезинформацията, киберсигурността, биосигурността, измамите, политическото съдържание и други чувствителни теми.
- Документиране на уязвимости и съдействие за изготвяне на показатели за безопасност и доклади от red teaming.
- Работа с AI изследователи за укрепване на съгласуваността, устойчивостта и безопасността на моделите.
- Изпълнение на проекти като независим изпълнител според нуждите на проекта и резултатите от работата.
Изисквания
- Бакалавърска или по-висока степен по компютърни науки, киберсигурност, журналистика, комуникации, психология, биология, химия, публични политики или сродна област.
- Най-малко пет години професионален опит в безопасността на AI, red teaming на AI, доверие и безопасност, киберсигурност, разследваща журналистика, природни науки или сродна област.
- Силни аналитични умения, умения за създаване на подкани и писане.
- Опит в създаването на адверсариални подкани или оценяването на най-съвременни AI системи.
- Предимство е опитът с red teaming на AI, RLHF, SFT, съгласуването на AI или доверие и безопасност.
- Предимство е познаването на тестове за заобикаляне на защитите, prompt engineering или методи за адверсариална оценка.
- Предимство е експертният опит в една или повече чувствителни области, включително киберсигурност, биосигурност, политическо съдържание, дезинформация или безопасност на научните изследвания.
- Трябва да е възможно да се работи като независим изпълнител.
- Не се осигурява подкрепа за кандидати с визи H-1B и STEM OPT.
Придобивки
- Изцяло дистанционна работа.
- Самостоятелно определяне на работния график.
- Седмични плащания за извършените услуги чрез Stripe или Wise.
- Работа с водещи AI изследователи и екипи по безопасност.
- Принос към безопасността и съгласуването на най-съвременни AI системи.
- Възнаграждения за препоръки до 340 USD за всяка успешна препоръка, при приложимите ограничения.
- При поискване се предоставят разумни улеснения.