51 – 200 Служители
Наличният профил на Mercor не съдържа достатъчно проверена информация за нейните продукти, услуги, клиенти, сектор или насоченост към наемане, за да бъде изготвен точен преглед на компанията. Необходими са допълнителни източници, преди да бъде описан бизнесът или възможностите за работа в компанията.
Експерт по безопасност на изкуствения интелект – английски и бенгалски (дистанционна работа по договор)
Mercor търси специалист по red teaming за безопасност на изкуствения интелект, който владее английски и бенгалски и ще идентифицира уязвимости в разговорни AI системи. Ролята включва създаване на възпроизводими атаки и генерирани от хора данни за обучение на авангардни модели в AI лаборатории.
Описание
- Тестване на разговорни AI модели и агенти чрез jailbreak атаки, prompt injection, сценарии за злоупотреба, използване на пристрастия и многоходова манипулация
- Създаване на генерирани от хора данни чрез анотиране на грешки, категоризиране на уязвимости и идентифициране на системни рискове
- Използване на установени таксономии, бенчмаркове и наръчници за последователност при оценяването
- Предоставяне на възпроизводими доклади, набори от данни и атаки на клиентите
- Оценяване на отговори на AI, свързани с пристрастия, дезинформация, вредно поведение и други чувствителни теми
- Разширяване на обхвата на оценяването и принос към по-сигурни AI системи за клиентите
Изисквания
- Носител или свободно владеене на английски и бенгалски език
- Добра преценка при оценяване на език и съдържание, включително способност да се определи дали отговорите на AI са точни, пълни и подходящи и да се обясни оценката
- Изключително внимание към фини грешки, несъответствия и пропуски
- Надеждно спазване на насоките за тестване и стандартите за качество
- Ясно обясняване на разсъжденията пред техническа и нетехническа аудитория
- Готовност за адаптиране към различни проекти, формати на задачи и клиенти
- Способност за работа като независим изпълнител
- Не трябва да изисква спонсорство за виза H-1B или STEM OPT
- Предимство: опит в адверсарно машинно обучение с набори от данни за jailbreak атаки, prompt injection, RLHF/DPO атаки или извличане на модели
- Предимство: опит в киберсигурността с тестове за проникване, разработване на експлойти или обратно инженерство
- Предимство: опит със социотехнически рискове, включително проучване на тормоз или дезинформация, анализ на злоупотреби или тестване на разговорен AI
- Предимство: опит в психологията, актьорството или писането, който подпомага нестандартното адверсарно мислене
Придобивки
- Изцяло дистанционна работа
- Гъвкав график според собствената ви наличност
- Седмични плащания чрез Stripe или Wise
- Възможност сами да изберете дали да участвате в проекти с по-висока чувствителност
- Достъп до ясни насоки и ресурси за благополучие при задачи с чувствително съдържание
- Конкурентно възнаграждение
- Придобиване на опит в red teaming на AI, основан на данни, създадени от хора
- Сътрудничество с водещи изследователи в областта на AI
- Плащания за препоръки до 90 USD за всяка успешна препоръка