51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по red teaming за безопасност на изкуствения интелект
Тествайте усъвършенствани системи с изкуствен интелект за партньорските лаборатории на Mercor, като откривате уязвимости и оценявате рисково поведение на моделите. Създавайте адверсариални подсказки и помагайте за документирането на констатациите за безопасността.
Описание
- Създавайте адверсариални подсказки за тестване на усъвършенствани модели с изкуствен интелект в напрегнати ситуации.
- Откривайте jailbreak атаки, небезопасни резултати, халюцинации и неспазване на правила.
- Оценявайте устойчивостта на моделите към дезинформация, киберзаплахи, биологични рискове, измами, политическо съдържание и други чувствителни теми.
- Записвайте уязвимости и помагайте за изготвянето на показатели за безопасност и доклади от red team проверки.
- Работете с изследователи в областта на изкуствения интелект за укрепване на съгласуваността, устойчивостта и безопасността на моделите.
- Изпълнявайте проекти за партньорските лаборатории за изкуствен интелект и предприятия на Mercor, които обучават и подобряват системи с изкуствен интелект.
Изисквания
- Бакалавърска степен или по-висока в областта на компютърните науки, киберсигурността, журналистиката, комуникациите, психологията, биологията, химията, публичните политики или сродна област.
- Поне пет години професионален опит в безопасността на изкуствения интелект, red teaming на AI, доверие и безопасност, киберсигурност, разследваща журналистика, науки за живота или сродна област.
- Отлични аналитични умения, умения за проектиране на подсказки и писмена комуникация.
- Опит в създаването на адверсариални подсказки или оценяването на усъвършенствани системи с изкуствен интелект.
- Предимство е опитът с red teaming на AI, RLHF, надзорно фино настройване, съгласуване на изкуствения интелект или доверие и безопасност.
- Предимство е познаването на тестване за jailbreak, prompt engineering или методи за адверсариална оценка.
- Предимство са експертните познания в чувствителни области като киберсигурност, биологична безопасност, политическо съдържание, дезинформация или научна безопасност.
- Трябва да имате право на работа в една от посочените локации.
- Понастоящем Mercor не може да подкрепи кандидати за H-1B или STEM OPT.
Придобивки
- Изцяло дистанционна работа.
- Гъвкав график и възможност да работите по собствено разписание.
- Седмични плащания чрез Stripe или Wise.
- Проектите могат да бъдат удължени, съкратени или прекратени по-рано според нуждите на проекта и представянето.
- Конкурентно заплащане.
- Сътрудничество с водещи изследователи на изкуствения интелект и екипи по безопасност.
- Принос към безопасността на усъвършенствания изкуствен интелект и разработването на модели.
- Можете да получите до 340 USD за всяка успешна препоръка, при спазване на ограниченията за препоръки.
- При поискване се осигуряват разумни улеснения.