51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Специалист по red teaming за безопасност на изкуствения интелект
Mercor търси специалист по red teaming за безопасност на изкуствения интелект, който да изпитва най-новите модели с адверсариални промптове. Работата е насочена към откриване на слабости и подпомагане на партньорски AI лаборатории за подобряване на съгласуваността, устойчивостта и безопасността на моделите.
Описание
- Създаване на адверсариални промптове за изпитване на най-новите AI модели.
- Откриване на jailbreak атаки, опасно поведение, халюцинации и нарушения на правилата.
- Оценяване на устойчивостта на моделите в чувствителни области, включително дезинформация, киберсигурност, биосигурност, измами и политическо съдържание.
- Документиране на уязвимости и подпомагане на подготовката на бенчмаркове за безопасност и доклади от red teaming.
- Работа с изследователи в областта на изкуствения интелект за укрепване на съгласуваността, устойчивостта и безопасността на моделите.
- Принос към проекти за обучение и усъвършенстване на AI системи.
Изисквания
- Бакалавърска или по-висока степен по компютърни науки, киберсигурност, журналистика, комуникации, психология, биология, химия, публични политики или свързана област.
- Най-малко пет години професионален опит в безопасността на AI, red teaming на AI, доверие и безопасност, киберсигурност, разследваща журналистика, науки за живота или свързана област.
- Силни аналитични умения, умения за създаване на промптове и писмена комуникация.
- Опит със създаване на адверсариални промптове или оценяване на най-нови AI системи.
- Предимство е опитът с red teaming на AI, RLHF, SFT, съгласуване на AI или доверие и безопасност.
- Предимство е познаването на тестване за jailbreak атаки, prompt engineering или методи за адверсариална оценка.
- Предимство са експертните познания в специфични области като киберсигурност, биосигурност, политическо съдържание, дезинформация или научна безопасност.
- Възможност за работа като независим изпълнител.
- Не се предоставя подкрепа на кандидати с визи H-1B и STEM OPT.
Придобивки
- Дистанционна работа от всяко място в Съединените щати.
- Самостоятелно определяне на работния график.
- Седмични плащания чрез Stripe или Wise.
- Проектите може да бъдат удължени, съкратени или прекратени по-рано според нуждите на проекта и представянето.
- Работа с водещи изследователи в областта на изкуствения интелект и екипи по безопасност.
- Възможност за принос към оформянето на безопасността на най-новите AI системи.
- При поискване се осигуряват разумни адаптации.
- Възнаграждения за препоръки до 340 USD за всяка успешна препоръка; важат ограничения.