51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Специалист по тестване на безопасността на AI модели
Изпитвайте безопасността на водещи AI модели чрез адверсариално тестване. Откривайте уязвимости и помагайте за подобряването на съгласуваността на моделите.
Описание
- Създавайте адверсариални подкани, за да изпитвате водещи AI модели.
- Откривайте заобикаляне на защитите, опасно поведение, халюцинации и нарушения на правилата.
- Тествайте устойчивостта на моделите при дезинформация, киберсигурност, биосигурност, измами, политическо съдържание и други чувствителни теми.
- Документирайте уязвимости и помагайте за създаването на показатели за безопасност и доклади от red team тестване.
- Работете с изследователи в областта на изкуствения интелект за укрепване на съгласуваността, устойчивостта и безопасността на моделите.
- Помагайте за защитата и подобряването на следващото поколение водещи AI модели.
- Участвайте в проекти за обучение и подобряване на AI системи.
Изисквания
- Бакалавърска или по-висока степен по компютърни науки, киберсигурност, журналистика, комуникации, психология, биология, химия, публични политики или сродна област
- Най-малко пет години професионален опит в безопасността на AI, red team тестването на AI, доверието и безопасността, киберсигурността, разследващата журналистика, науките за живота или сродна област
- Силни аналитични умения, умения за създаване на подкани и писане
- Опит в създаването на адверсариални подкани или оценяването на водещи AI системи
- Предимство е опитът в red team тестване на AI, RLHF, контролирано фино настройване, съгласуване на AI или доверие и безопасност
- Предимство е познаването на тестване за заобикаляне на защитите, prompt engineering или методи за адверсариална оценка
- Предимство е експертният опит поне в една чувствителна област, например киберсигурност, биосигурност, политическо съдържание, дезинформация или научна безопасност
- Кандидатът не трябва да се нуждае от спонсорство за виза H-1B или STEM OPT; Mercor не може да подкрепи кандидати, които се нуждаят от която и да е от тези форми на спонсорство
Придобивки
- Изцяло дистанционна работа с гъвкав график
- Седмични плащания за извършените услуги чрез Stripe или Wise
- Продължителността на проекта може да се промени или той да приключи по-рано според нуждите на проекта и представянето
- Работа с водещи изследователи в областта на изкуствения интелект и екипи по безопасност
- Възможност да повлияете върху начина, по който AI системите се справят със сложни предизвикателства за безопасността в реалния свят
- При поискване се предоставят разумни улеснения
- Възнаграждения до 340 USD за всяка успешна препоръка, при определени ограничения